{
 "cells": [
  {
   "cell_type": "code",
   "execution_count": 3,
   "id": "8da07ff8",
   "metadata": {},
   "outputs": [
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "Requirement already satisfied: requests-html in c:\\users\\pc\\anaconda3\\lib\\site-packages (0.10.0)\n",
      "Requirement already satisfied: fake-useragent in c:\\users\\pc\\anaconda3\\lib\\site-packages (from requests-html) (1.1.1)\n",
      "Requirement already satisfied: bs4 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from requests-html) (0.0.1)\n",
      "Requirement already satisfied: w3lib in c:\\users\\pc\\anaconda3\\lib\\site-packages (from requests-html) (2.1.1)\n",
      "Requirement already satisfied: pyquery in c:\\users\\pc\\anaconda3\\lib\\site-packages (from requests-html) (2.0.0)\n",
      "Requirement already satisfied: pyppeteer>=0.0.14 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from requests-html) (1.0.2)\n",
      "Requirement already satisfied: parse in c:\\users\\pc\\anaconda3\\lib\\site-packages (from requests-html) (1.19.0)\n",
      "Requirement already satisfied: requests in c:\\users\\pc\\anaconda3\\lib\\site-packages (from requests-html) (2.25.1)\n",
      "Requirement already satisfied: importlib-metadata>=1.4 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from pyppeteer>=0.0.14->requests-html) (3.10.0)\n",
      "Requirement already satisfied: websockets<11.0,>=10.0 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from pyppeteer>=0.0.14->requests-html) (10.4)\n",
      "Requirement already satisfied: appdirs<2.0.0,>=1.4.3 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from pyppeteer>=0.0.14->requests-html) (1.4.4)\n",
      "Requirement already satisfied: urllib3<2.0.0,>=1.25.8 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from pyppeteer>=0.0.14->requests-html) (1.26.4)\n",
      "Requirement already satisfied: pyee<9.0.0,>=8.1.0 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from pyppeteer>=0.0.14->requests-html) (8.2.2)\n",
      "Requirement already satisfied: tqdm<5.0.0,>=4.42.1 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from pyppeteer>=0.0.14->requests-html) (4.59.0)\n",
      "Requirement already satisfied: certifi>=2021 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from pyppeteer>=0.0.14->requests-html) (2022.12.7)\n",
      "Requirement already satisfied: zipp>=0.5 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from importlib-metadata>=1.4->pyppeteer>=0.0.14->requests-html) (3.4.1)\n",
      "Requirement already satisfied: beautifulsoup4 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from bs4->requests-html) (4.9.3)\n",
      "Requirement already satisfied: soupsieve>1.2 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from beautifulsoup4->bs4->requests-html) (2.2.1)\n",
      "Requirement already satisfied: importlib-resources>=5.0 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from fake-useragent->requests-html) (5.12.0)\n",
      "Requirement already satisfied: lxml>=2.1 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from pyquery->requests-html) (4.6.3)\n",
      "Requirement already satisfied: cssselect>=1.2.0 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from pyquery->requests-html) (1.2.0)\n",
      "Requirement already satisfied: chardet<5,>=3.0.2 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from requests->requests-html) (4.0.0)\n",
      "Requirement already satisfied: idna<3,>=2.5 in c:\\users\\pc\\anaconda3\\lib\\site-packages (from requests->requests-html) (2.10)\n"
     ]
    }
   ],
   "source": [
    "!pip install requests-html"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 4,
   "id": "7cf71010",
   "metadata": {},
   "outputs": [],
   "source": [
    "from requests_html import HTMLSession"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 5,
   "id": "f9703fe9",
   "metadata": {},
   "outputs": [],
   "source": [
    "session = HTMLSession()"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 6,
   "id": "3acd97fb",
   "metadata": {},
   "outputs": [],
   "source": [
    "r = session.get('https://python.org/')"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 7,
   "id": "82762d2e",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/plain": [
       "200"
      ]
     },
     "execution_count": 7,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "r.status_code"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 8,
   "id": "3060f3d4",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/plain": [
       "{'Connection': 'keep-alive', 'Content-Length': '50059', 'Server': 'nginx', 'Content-Type': 'text/html; charset=utf-8', 'X-Frame-Options': 'DENY', 'Via': '1.1 vegur, 1.1 varnish, 1.1 varnish', 'Accept-Ranges': 'bytes', 'Date': 'Fri, 10 Mar 2023 06:54:59 GMT', 'Age': '2637', 'X-Served-By': 'cache-iad-kiad7000025-IAD, cache-nrt-rjtf7700042-NRT', 'X-Cache': 'HIT, HIT', 'X-Cache-Hits': '406, 1542', 'X-Timer': 'S1678431299.242237,VS0,VE0', 'Vary': 'Cookie', 'Strict-Transport-Security': 'max-age=63072000; includeSubDomains; preload'}"
      ]
     },
     "execution_count": 8,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "r.headers"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 9,
   "id": "5d31137e",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/plain": [
       "'window.dataLayer = window.dataLayer || []; function gtag(){dataLayer.push(arguments);} gtag(\\'js\\', new Date()); gtag(\\'config\\', \\'G-TF35YF9CVH\\');\\nWelcome to Python.org\\n{ \"@context\": \"https://schema.org\", \"@type\": \"WebSite\", \"url\": \"https://www.python.org/\", \"potentialAction\": { \"@type\": \"SearchAction\", \"target\": \"https://www.python.org/search/?q={search_term_string}\", \"query-input\": \"required name=search_term_string\" } } var _gaq = _gaq || []; _gaq.push([\\'_setAccount\\', \\'UA-39055973-1\\']); _gaq.push([\\'_trackPageview\\']); (function() { var ga = document.createElement(\\'script\\'); ga.type = \\'text/javascript\\'; ga.async = true; ga.src = (\\'https:\\' == document.location.protocol ? \\'https://ssl\\' : \\'http://www\\') + \\'.google-analytics.com/ga.js\\'; var s = document.getElementsByTagName(\\'script\\')[0]; s.parentNode.insertBefore(ga, s); })();\\nNotice: While JavaScript is not essential for this website, your interaction with the content will be limited. Please turn JavaScript on for the full experience.\\nSkip to content\\n▼ Close\\nPython\\nPSF\\nDocs\\nPyPI\\nJobs\\nCommunity\\n▲ The Python Network\\nDonate\\n≡ Menu\\nSearch This Site GO\\nA A\\nSmaller\\nLarger\\nReset\\nSocialize\\nFacebook\\nTwitter\\nChat on IRC\\nAbout\\nApplications\\nQuotes\\nGetting Started\\nHelp\\nPython Brochure\\nDownloads\\nAll releases\\nSource code\\nWindows\\nmacOS\\nOther Platforms\\nLicense\\nAlternative Implementations\\nDocumentation\\nDocs\\nAudio/Visual Talks\\nBeginner\\'s Guide\\nDeveloper\\'s Guide\\nFAQ\\nNon-English Docs\\nPEP Index\\nPython Books\\nPython Essays\\nCommunity\\nDiversity\\nMailing Lists\\nIRC\\nForums\\nPSF Annual Impact Report\\nPython Conferences\\nSpecial Interest Groups\\nPython Logo\\nPython Wiki\\nCode of Conduct\\nCommunity Awards\\nGet Involved\\nShared Stories\\nSuccess Stories\\nArts\\nBusiness\\nEducation\\nEngineering\\nGovernment\\nScientific\\nSoftware Development\\nNews\\nPython News\\nPSF Newsletter\\nPSF News\\nPyCon US News\\nNews from the Community\\nEvents\\nPython Events\\nUser Group Events\\nPython Events Archive\\nUser Group Events Archive\\nSubmit an Event\\n>_ Launch Interactive Shell\\n# Python 3: Fibonacci series up to n >>> def fib(n): >>> a, b = 0, 1 >>> while a < n: >>> print(a, end=\\' \\') >>> a, b = b, a+b >>> print() >>> fib(1000) 0 1 1 2 3 5 8 13 21 34 55 89 144 233 377 610 987\\nFunctions Defined\\nThe core of extensible programming is defining functions. Python allows mandatory and optional arguments, keyword arguments, and even arbitrary argument lists. More about defining functions in Python\\xa03\\n# Python 3: List comprehensions >>> fruits = [\\'Banana\\', \\'Apple\\', \\'Lime\\'] >>> loud_fruits = [fruit.upper() for fruit in fruits] >>> print(loud_fruits) [\\'BANANA\\', \\'APPLE\\', \\'LIME\\'] # List and the enumerate function >>> list(enumerate(fruits)) [(0, \\'Banana\\'), (1, \\'Apple\\'), (2, \\'Lime\\')]\\nCompound Data Types\\nLists (known as arrays in other languages) are one of the compound data types that Python understands. Lists can be indexed, sliced and manipulated with other built-in functions. More about lists in Python\\xa03\\n# Python 3: Simple arithmetic >>> 1 / 2 0.5 >>> 2 ** 3 8 >>> 17 / 3 # classic division returns a float 5.666666666666667 >>> 17 // 3 # floor division 5\\nIntuitive Interpretation\\nCalculations are simple with Python, and expression syntax is straightforward: the operators +, -, * and / work as expected; parentheses () can be used for grouping. More about simple math functions in Python\\xa03.\\n# For loop on a list >>> numbers = [2, 4, 6, 8] >>> product = 1 >>> for number in numbers: ... product = product * number ... >>> print(\\'The product is:\\', product) The product is: 384\\nAll the Flow You’d Expect\\nPython knows the usual control flow statements that other languages speak — if, for, while and range — with some of its own twists, of course. More control flow tools in Python\\xa03\\n# Simple output (with Unicode) >>> print(\"Hello, I\\'m Python!\") Hello, I\\'m Python! # Input, assignment >>> name = input(\\'What is your name?\\\\n\\') What is your name? Python >>> print(f\\'Hi, {name}.\\') Hi, Python.\\nQuick & Easy to Learn\\nExperienced programmers in any other language can pick up Python very quickly, and beginners find the clean syntax and indentation structure easy to learn. Whet your appetite with our Python\\xa03 overview.\\nPython is a programming language that lets you work quickly and integrate systems more effectively. Learn More\\nGet Started\\nWhether you\\'re new to programming or an experienced developer, it\\'s easy to learn and use Python.\\nStart with our Beginner’s Guide\\nDownload\\nPython source code and installers are available for download for all versions!\\nLatest: Python 3.11.2\\nDocs\\nDocumentation for Python\\'s standard library, along with tutorials and guides, are available online.\\ndocs.python.org\\nJobs\\nLooking for work or have a Python related position that you\\'re trying to hire for? Our relaunched community-run job board is the place to go.\\njobs.python.org\\nLatest News\\nMore\\n2023-03-08 Python 3.12.0 alpha 6 released\\n2023-02-15 The Case for a Second Developer-in-Residence for Python\\n2023-02-10 Python Packaging Strategy Discussion Summary - Part 1\\n2023-02-08 Python 3.11.2, Python 3.10.10 and 3.12.0 alpha 5 are available\\n2023-02-08 Announcing Python Software Foundation Fellow Members for Q4 2022! 🎉\\nUpcoming Events\\nMore\\n2023-03-13 Python Web Conf 2023\\n2023-03-15 The long white computing cloud - NZPUG-Auckland\\n2023-03-22 Python Meeting Düsseldorf\\n2023-04-01 PyTexas 2023\\n2023-04-07 PyCamp Spain 2023\\nSuccess Stories\\nMore\\nPython powers major aspects of Abridge’s ML lifecycle, including data annotation, research and experimentation, and ML model deployment to production.\\nAbridging clinical conversations using Python by Nimshi Venkat and Sandeep Konam\\nUse Python for…\\nMore\\nWeb Development: Django, Pyramid, Bottle, Tornado, Flask, web2py\\nGUI Development: tkInter, PyGObject, PyQt, PySide, Kivy, wxPython\\nScientific and Numeric: SciPy, Pandas, IPython\\nSoftware Development: Buildbot, Trac, Roundup\\nSystem Administration: Ansible, Salt, OpenStack, xonsh\\n>>> Python Enhancement Proposals (PEPs): The future of Python is discussed here. RSS\\n>>> Python Software Foundation\\nThe mission of the Python Software Foundation is to promote, protect, and advance the Python programming language, and to support and facilitate the growth of a diverse and international community of Python programmers. Learn more\\nBecome a Member Donate to the PSF\\n▲ Back to Top\\nAbout\\nApplications\\nQuotes\\nGetting Started\\nHelp\\nPython Brochure\\nDownloads\\nAll releases\\nSource code\\nWindows\\nmacOS\\nOther Platforms\\nLicense\\nAlternative Implementations\\nDocumentation\\nDocs\\nAudio/Visual Talks\\nBeginner\\'s Guide\\nDeveloper\\'s Guide\\nFAQ\\nNon-English Docs\\nPEP Index\\nPython Books\\nPython Essays\\nCommunity\\nDiversity\\nMailing Lists\\nIRC\\nForums\\nPSF Annual Impact Report\\nPython Conferences\\nSpecial Interest Groups\\nPython Logo\\nPython Wiki\\nCode of Conduct\\nCommunity Awards\\nGet Involved\\nShared Stories\\nSuccess Stories\\nArts\\nBusiness\\nEducation\\nEngineering\\nGovernment\\nScientific\\nSoftware Development\\nNews\\nPython News\\nPSF Newsletter\\nPSF News\\nPyCon US News\\nNews from the Community\\nEvents\\nPython Events\\nUser Group Events\\nPython Events Archive\\nUser Group Events Archive\\nSubmit an Event\\nContributing\\nDeveloper\\'s Guide\\nIssue Tracker\\npython-dev list\\nCore Mentorship\\nReport a Security Issue\\n▲ Back to Top\\nHelp & General Contact\\nDiversity Initiatives\\nSubmit Website Bug\\nStatus\\nCopyright ©2001-2023. \\xa0Python Software Foundation \\xa0Legal Statements \\xa0Privacy Policy \\xa0Powered by Heroku\\nwindow.jQuery || document.write(\\'<script src=\"/static/js/libs/jquery-1.8.2.min.js\"><\\\\/script>\\') window.jQuery || document.write(\\'<script src=\"/static/js/libs/jquery-ui-1.12.1.min.js\"><\\\\/script>\\')'"
      ]
     },
     "execution_count": 9,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "r.html.text"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 11,
   "id": "328127a1",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/plain": [
       "{'http://bottlepy.org',\n",
       " 'http://brochure.getpython.info/',\n",
       " 'http://buildbot.net/',\n",
       " 'http://docs.python.org/3/tutorial/introduction.html#using-python-as-a-calculator',\n",
       " 'http://flask.pocoo.org/',\n",
       " 'http://ipython.org',\n",
       " 'http://pandas.pydata.org/',\n",
       " 'http://planetpython.org/',\n",
       " 'http://pycon.blogspot.com/',\n",
       " 'http://pyfound.blogspot.com/',\n",
       " 'http://python.org/dev/peps/',\n",
       " 'http://roundup.sourceforge.net/',\n",
       " 'http://tornadoweb.org',\n",
       " 'http://trac.edgewall.org/',\n",
       " 'http://wiki.python.org/moin/Languages',\n",
       " 'http://wiki.python.org/moin/TkInter',\n",
       " 'http://www.ansible.com',\n",
       " 'http://www.djangoproject.com/',\n",
       " 'http://www.pylonsproject.org/',\n",
       " 'http://www.riverbankcomputing.co.uk/software/pyqt/intro',\n",
       " 'http://www.scipy.org',\n",
       " 'http://www.web2py.com/',\n",
       " 'http://www.wxpython.org/',\n",
       " 'https://blog.python.org',\n",
       " 'https://bugs.python.org/',\n",
       " 'https://devguide.python.org/',\n",
       " 'https://docs.python.org',\n",
       " 'https://docs.python.org/3/license.html',\n",
       " 'https://docs.python.org/3/tutorial/',\n",
       " 'https://docs.python.org/3/tutorial/controlflow.html',\n",
       " 'https://docs.python.org/3/tutorial/controlflow.html#defining-functions',\n",
       " 'https://docs.python.org/3/tutorial/introduction.html#lists',\n",
       " 'https://docs.python.org/faq/',\n",
       " 'https://github.com/python/pythondotorg/issues',\n",
       " 'https://jobs.python.org',\n",
       " 'https://kivy.org/',\n",
       " 'https://mail.python.org/mailman/listinfo/python-dev',\n",
       " 'https://psfmember.org/civicrm/contribute/transact?reset=1&id=2',\n",
       " 'https://pyfound.blogspot.com/2023/02/announcing-python-software-foundation.html',\n",
       " 'https://pyfound.blogspot.com/2023/02/python-packaging-strategy-discussion.html',\n",
       " 'https://pyfound.blogspot.com/2023/02/the-case-for-second-developer-in.html',\n",
       " 'https://pypi.org/',\n",
       " 'https://pythoninsider.blogspot.com/2023/02/python-3112-python-31010-and-3120-alpha.html',\n",
       " 'https://pythoninsider.blogspot.com/2023/03/python-3120-alpha-6-released.html',\n",
       " 'https://saltproject.io',\n",
       " 'https://status.python.org/',\n",
       " 'https://twitter.com/ThePSF',\n",
       " 'https://wiki.gnome.org/Projects/PyGObject',\n",
       " 'https://wiki.python.org/moin/',\n",
       " 'https://wiki.python.org/moin/BeginnersGuide',\n",
       " 'https://wiki.python.org/moin/PythonBooks',\n",
       " 'https://wiki.python.org/moin/PythonEventsCalendar#Submitting_an_Event',\n",
       " 'https://wiki.qt.io/PySide',\n",
       " 'https://www.facebook.com/pythonlang?fref=ts',\n",
       " 'https://www.openstack.org',\n",
       " 'https://www.python.org/',\n",
       " 'https://www.python.org/about/',\n",
       " 'https://www.python.org/about/apps',\n",
       " 'https://www.python.org/about/apps/',\n",
       " 'https://www.python.org/about/gettingstarted/',\n",
       " 'https://www.python.org/about/help/',\n",
       " 'https://www.python.org/about/legal/',\n",
       " 'https://www.python.org/about/quotes/',\n",
       " 'https://www.python.org/blogs/',\n",
       " 'https://www.python.org/community-landing/',\n",
       " 'https://www.python.org/community/',\n",
       " 'https://www.python.org/community/awards',\n",
       " 'https://www.python.org/community/diversity/',\n",
       " 'https://www.python.org/community/forums/',\n",
       " 'https://www.python.org/community/irc/',\n",
       " 'https://www.python.org/community/lists/',\n",
       " 'https://www.python.org/community/logos/',\n",
       " 'https://www.python.org/community/sigs/',\n",
       " 'https://www.python.org/community/workshops/',\n",
       " 'https://www.python.org/dev/',\n",
       " 'https://www.python.org/dev/core-mentorship/',\n",
       " 'https://www.python.org/dev/peps/',\n",
       " 'https://www.python.org/dev/peps/peps.rss',\n",
       " 'https://www.python.org/dev/security/',\n",
       " 'https://www.python.org/doc/',\n",
       " 'https://www.python.org/doc/av',\n",
       " 'https://www.python.org/doc/essays/',\n",
       " 'https://www.python.org/download/alternatives',\n",
       " 'https://www.python.org/download/other/',\n",
       " 'https://www.python.org/downloads/',\n",
       " 'https://www.python.org/downloads/macos/',\n",
       " 'https://www.python.org/downloads/release/python-3112/',\n",
       " 'https://www.python.org/downloads/source/',\n",
       " 'https://www.python.org/downloads/windows/',\n",
       " 'https://www.python.org/events/',\n",
       " 'https://www.python.org/events/calendars/',\n",
       " 'https://www.python.org/events/python-events/',\n",
       " 'https://www.python.org/events/python-events/1436/',\n",
       " 'https://www.python.org/events/python-events/1454/',\n",
       " 'https://www.python.org/events/python-events/past/',\n",
       " 'https://www.python.org/events/python-user-group/',\n",
       " 'https://www.python.org/events/python-user-group/1431/',\n",
       " 'https://www.python.org/events/python-user-group/1435/',\n",
       " 'https://www.python.org/events/python-user-group/1458/',\n",
       " 'https://www.python.org/events/python-user-group/past/',\n",
       " 'https://www.python.org/jobs/',\n",
       " 'https://www.python.org/privacy/',\n",
       " 'https://www.python.org/psf-landing/',\n",
       " 'https://www.python.org/psf/',\n",
       " 'https://www.python.org/psf/annual-report/2021/',\n",
       " 'https://www.python.org/psf/community-stories/',\n",
       " 'https://www.python.org/psf/conduct/',\n",
       " 'https://www.python.org/psf/donations/',\n",
       " 'https://www.python.org/psf/get-involved/',\n",
       " 'https://www.python.org/psf/newsletter/',\n",
       " 'https://www.python.org/psf/sponsorship/sponsors/#heroku',\n",
       " 'https://www.python.org/shell/',\n",
       " 'https://www.python.org/success-stories/',\n",
       " 'https://www.python.org/success-stories/abridging-clinical-conversations-using-python/',\n",
       " 'https://www.python.org/success-stories/category/arts/',\n",
       " 'https://www.python.org/success-stories/category/business/',\n",
       " 'https://www.python.org/success-stories/category/education/',\n",
       " 'https://www.python.org/success-stories/category/engineering/',\n",
       " 'https://www.python.org/success-stories/category/government/',\n",
       " 'https://www.python.org/success-stories/category/scientific/',\n",
       " 'https://www.python.org/success-stories/category/software-development/',\n",
       " 'https://www.python.org/users/membership/',\n",
       " 'https://xon.sh'}"
      ]
     },
     "execution_count": 11,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "r.html.absolute_links"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 12,
   "id": "93d56b5c",
   "metadata": {},
   "outputs": [
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "About\n",
      "Applications\n",
      "Quotes\n",
      "Getting Started\n",
      "Help\n",
      "Python Brochure\n"
     ]
    }
   ],
   "source": [
    "about = r.html.find('#about', first=True)\n",
    "print(about.text)"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 13,
   "id": "b3bed446",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/plain": [
       "{'id': 'about', 'class': ('tier-1', 'element-1'), 'aria-haspopup': 'true'}"
      ]
     },
     "execution_count": 13,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "about.attrs"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 14,
   "id": "451c6b3a",
   "metadata": {},
   "outputs": [
    {
     "data": {
      "text/plain": [
       "'<li id=\"about\" class=\"tier-1 element-1\" aria-haspopup=\"true\">\\n<a href=\"/about/\" title=\"\" class=\"\">About</a>\\n<ul class=\"subnav menu\" role=\"menu\" aria-hidden=\"true\">\\n<li class=\"tier-2 element-1\" role=\"treeitem\"><a href=\"/about/apps/\" title=\"\">Applications</a></li>\\n<li class=\"tier-2 element-2\" role=\"treeitem\"><a href=\"/about/quotes/\" title=\"\">Quotes</a></li>\\n<li class=\"tier-2 element-3\" role=\"treeitem\"><a href=\"/about/gettingstarted/\" title=\"\">Getting Started</a></li>\\n<li class=\"tier-2 element-4\" role=\"treeitem\"><a href=\"/about/help/\" title=\"\">Help</a></li>\\n<li class=\"tier-2 element-5\" role=\"treeitem\"><a href=\"http://brochure.getpython.info/\" title=\"\">Python Brochure</a></li>\\n</ul>\\n</li>'"
      ]
     },
     "execution_count": 14,
     "metadata": {},
     "output_type": "execute_result"
    }
   ],
   "source": [
    "about.html"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 18,
   "id": "fa2092a3",
   "metadata": {},
   "outputs": [
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "首页\n",
      "新闻\n",
      "博问\n",
      "专区\n",
      "闪存\n",
      "班级\n",
      "所有博客\n",
      "当前博客\n",
      "我的博客 我的园子 账号设置 简洁模式 ... 退出登录\n",
      "注册 登录\n",
      "\n",
      "\n",
      "\n",
      "\n",
      "我的博客 我的园子 账号设置 简洁模式 ... 退出登录\n",
      "我的博客 我的园子 账号设置 简洁模式 ... 退出登录\n",
      "vivo 互联网技术\n",
      "分享 vivo 互联网技术干货与沙龙活动，推荐最新行业动态与热门会议。\n",
      "博客园\n",
      "首页\n",
      "新随笔\n",
      "联系\n",
      "订阅\n",
      "管理\n",
      "loadBlogStats();\n",
      "vivo全球商城：库存系统架构设计与实践\n",
      "本文主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "作者：vivo官网商城开发团队 - Xu Yi、Yan Chao\n",
      "本文是vivo商城系列文章，主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "一、业务背景\n",
      "库存系统是电商商品管理的核心系统，本文主要介绍vivo商城库存中心发展历程、架构设计思路及应对各种业务场景的实践。\n",
      "vivo商城原库存系统耦合在商品系统，考虑到相关业务逻辑复杂度越来越高，库存做了服务拆分，在可售库存管理的基础上新增了实物库存管理、秒杀库存、物流时效 、发货限制、分仓管理等功能，满足了商城库存相关业务需求。\n",
      "本文将介绍vivo商城库存系统架构设计经验以及一些问题的解决方案。\n",
      "二、系统架构设计\n",
      "2.1 vivo大电商库存架构\n",
      "根据vivo大电商的销售渠道与业务场景可以将库存业务架构分为3个层级：仓库层、调度层以及销售层。\n",
      "仓库层对应实体仓库，包括自营仓库、顺丰仓等第三方仓库以及WMS系统、ERP系统等；调度层负责库存调度与订单发货管理；销售层包含多个服务终端，vivo官方商城、vivo门店、第三方电商分销渠道等。其分层结构如图所示：\n",
      "本文探讨的vivo官方商城库存架构设计，从整个vivo大电商库存架构来看，vivo官方商城库存系统涉及销售层内部架构以及销售层与调度层的交互。\n",
      "2.2 商城库存系统架构演变\n",
      "早期商城的库存冗余在各业务系统中，如可售库存在商品系统、活动库存在营销系统等，库存流转也只有扣减与释放，无法针对库存进行整合与业务创新，存在诸多限制：\n",
      "不能进行精细化管理，库存未分层，无法针对实物库存、分仓策略、活动库存进行精细化管理。\n",
      "没有分仓策略，无法提前获取商品收发地址，物流时效无法估算。\n",
      "无法针对地区、商品等进行发货管控。\n",
      "实时性差，无法及时同步实物库存以及分仓策略。\n",
      "性能弱，与其他系统耦合大，不能灵活扩展。\n",
      "基于上述限制与产品期望，21年库存系统完成初版架构设计，此后系统不断迭代完善，形成当前的系统架构：\n",
      "库存系统提供两个核心能力：交易能力和库存管理。上层业务方可以调用提供的API完成库存查询、库存扣减等操作；管理台可以按成分仓策略、库存同步等操作。\n",
      "三、系统业务架构\n",
      "3.1 库存类型&分仓管理\n",
      "3.1.1 库存类型结构\n",
      "库存系统一共包含4类库存：可售库存、实物库存、预占库存、活动库存。\n",
      "可售库存：运营配置的普通商品库存，商品维度到SKU。\n",
      "实物库存：由仓储系统同步到库存系统的实物库存，细化到具体仓库。\n",
      "预占库存：用户下单完成库存预占，仓储系统发货后释放预占库存，预占库存可以监控已下单未发货库存量。\n",
      "活动库存：用于秒杀、抢购等各类营销活动的商品库存。\n",
      "基于不同类型库存，可以构建一个简单的库存分层体系：\n",
      "3.1.2 分仓管理\n",
      "库存中心还维护了仓库信息、分仓策略、仓库实物库存信息等等：\n",
      "仓库信息：仓库基础信息，包括仓库地址、类型、编码等。\n",
      "分仓策略：仓库功能信息，仓库可发货区域、无实物库存后的备选仓库；订单根据收货地址对应优先发货的仓库，争取尽快发货尽早到货。\n",
      "仓库库存：仓库实物库存，由仓库调度系统同步到商城库存系统。\n",
      "3.2 商城库存流转方案\n",
      "商品库存流转涉及两个主要操作：正向库存扣减、逆向库存回退，整套库存变更流程如下：\n",
      "3.2.1 正向库存扣减流程\n",
      "对于库存扣减，目前常见有两种库存扣减方案：\n",
      "（1）下单时扣库存。\n",
      "优点是：实时扣库存，避免付款时因库存不足而阻断影响用户体验。\n",
      "缺点是：库存有限的情况下，恶意下单占库存影响其他正常用户下单。比如说有100台手机，如果没有限制下单数量，这100个库存可能被一个用户恶意占用，导致其他用户无法购买。\n",
      "（2）支付时扣库存。\n",
      "优点是：不受恶意下单影响。\n",
      "缺点是：当支付订单数大于实际库存，会阻断部分用户支付，影响购物体验。比如说只有100台手机，但可能下了1000个订单，但有900个订单在支付时无法购买。\n",
      "从用户体验考虑，我们采用的是下单时扣库存 + 回退这种方案。\n",
      "下单时扣减库存，但只保留一段时间（比如15分钟），保留时间段内未支付则释放库存，避免长时间占用库存。\n",
      "3.2.2 逆向库存回退流程\n",
      "库存回退基于库存变更日志逐个回退。\n",
      "库存回退基本流程：订单出库前用户申请退款，回退可售库存、回退预占库存、软删除扣减日志、增加回退日志；一旦商品出库，用户申请退货走处理机流程，可售库存和实物库存均不回退。\n",
      "3.3 精细化发货管控\n",
      "库存系统还提供了一系列定制辅助功能：分仓策略、发货限制、物流时效等等。\n",
      "（1）分仓策略\n",
      "为了给用户更快的发货，我们采用的是分仓策略，即由最近的仓库（存在优先级）给用户发货；同时存在备选仓库，当所有仓库无实物库存时可走备选仓库。\n",
      "3.3.1 发货限制\n",
      "发货限制分地区限制时间限制。\n",
      "地区限制：根据收货地址批量设置部分区域无法发货等规则，粒度到省市区维度。\n",
      "时间限制：仓库的发货时效管理，包括每天的发货时段、大促发货时段、以及特殊情况下的停发时段。\n",
      "3.3.2 物流时效预估\n",
      "根据用户收货地址，基于分仓策略确定发货地址，再基于发货时效确定发货时间，提升用户体验。\n",
      "四、系统架构技术要点\n",
      "4.1 库存扣减防重\n",
      "订单重复提交会导致库存重复扣减，比如用户误提交、系统超时重试等，针对此类问题有如下常见解决方案：\n",
      "订单提交按钮单击置灰，避免重复提交。注：对于按钮置灰这种方案，可以减少用户误触重复提交的可能性，但不能从根本上解决库存被重复扣减的问题，比如通过脚本来刷扣减库存的接口，依旧造成库存的重复扣减。\n",
      "保证库存扣减接口的幂等性。注：保证接口幂等的方案有很多，比如每次扣减库存时，带上唯一的流水号，利用数据库的唯一索引保证幂等等。\n",
      "采用令牌机制。用户提交订单会进行令牌校验，校验通过才能提交订单。注：这种方案保证每次提交的订单是唯一的，如果用户多次下单，那么会产生多个订单。\n",
      "本系统采用的是保证接口幂等性的方案。\n",
      "在库存扣减接口入参中增加订单序列号作为唯一标识，库存扣减时增加一条扣减日志。当接口重复请求时，会优先校验是否已经存在扣减记录，如果已存在则直接返回，避免重复扣减问题，具体流程如下：\n",
      "4.2 防超卖与高并发扣减方案\n",
      "4.2.1 常规渠道防超卖方案\n",
      "常规下单渠道流量小且对超卖风险厌恶度极高，常用的防超卖方案有：\n",
      "方案一：直接数据库扣减。通过sql判断剩余库存是否大于等于待扣库存，满足则扣减库存。该方案利用乐观锁原理即update的排他性确保事务性，避免超卖。\n",
      "伪代码sql：\n",
      "sql：update store set store = store - #{deductStore } where (store-#{deductStore }) >= 0\n",
      "该方案的优点是：\n",
      "实库实扣，不会出现超卖；\n",
      "数据库乐观锁保证并发扣减一致性；\n",
      "数据库事务保证批量扣减正常回滚。\n",
      "该方案的缺点是：\n",
      "行级锁的原因存在性能瓶颈，高并发会出现请求堵塞超时问题；\n",
      "直连数据库，每次扣库存都是写操作，接口性能较低。\n",
      "方案二：利用分布式锁，强制串行化扣减同一商品库存。\n",
      "该方案的优点是：\n",
      "减轻数据库压力，同时还能确保不会超卖。\n",
      "该方案的缺点是：\n",
      "每次只能有一个请求抢占锁，不能应对高并发场景。\n",
      "对于常规渠道，库存扣减是后置逻辑，流量不高，我们采用的是直接数据库扣减，且针对弊端做了一些措施：\n",
      "前置校验严格，同时针对刷单场景会有严格限流，保证最终扣减库存的流量可控；\n",
      "库存系统读写分离，减少数据库的压力。\n",
      "4.2.2 高并发库存扣减方案\n",
      "针对高并发库存扣减，比如秒杀，一般采用的是缓存扣减库存的方式（redis+lua脚本实现单线程库存更新）作为前置流程，代替数据库直接更新。\n",
      "在redis中扣减库存虽然性能高，可以大大减轻数据库压力，但需要保证缓存数据能完整、正确的入库，以保证最终一致性。\n",
      "针对缓存数据更新至数据库，目前主流方案有两种：\n",
      "方案一：Redis数据直接异步更新至数据库。\n",
      "优点：简单、没有复杂的流程。\n",
      "缺陷：redis宕机或者故障，可能会造成缓存内库存数据的丢失。\n",
      "方案二：Redis扣减库存时，同步在业务数据中insert库存信息。\n",
      "这里大家可能会有两个疑问：\n",
      "有数据库的插入操作，性能怎么保证？\n",
      "有数据库的操作，又有redis的更新，事务性怎么保证？\n",
      "异步更新业务库存在延迟，库存逆向回退如何保证？\n",
      "对于疑问1：由于数据库insert比update性能优，insert是在表的末尾直接插入，没有寻址的过程，可以保证性能比较快。\n",
      "对于疑问2：方案2不同于缓存直接扣减，而是把缓存扣减放在数据库insert的事务内，通过数据库的事务保证整体的事务。\n",
      "insert的表被称为库存任务表，其中保存了库存扣减的信息，库存任务表结构可以设计的非常简单，主键 + 库存信息（json字符串）就可以了。\n",
      "后续通过异步任务，从库存任务表表中查询出库存更新信息，将其同步到具体的库存表中，实现最终一致性，这种方案可以避免数据的丢失。\n",
      "对于疑问3：库存回退是根据业务库中扣减记录进行回退的，由于异步更新业务库必定存在延迟（延迟极低，数秒以内），所以极端场景会存在走退款逆向流程时业务库的库存扣减记录还未更新。\n",
      "针对这种情况库存回退设置延迟重试机制，如果再极端点达到重试阈值依旧没有扣减记录，则返回回退成功，不做阻断。\n",
      "目前我们针对秒杀库存扣减，采用的是方案2。但毕竟涉及数据库的更新，为了避免风险，在前置流量校验上做了限制，保证流量的可控：\n",
      "4.2.3 库存热点问题\n",
      "什么是热点问题？热点问题就是因热点商品导致的redis、数据库等性能瓶颈。在库存系统中，热点问题主要存在：\n",
      "采用直接扣减库存数据库的方式，存在数据库的行锁问题。常规渠道的库存扣减，我们采用的就是的就是这种方式。\n",
      "采用缓存扣减库存的方式，大流量的情况下，热点商品扣减库存操作会打向redis单片，造成单片性能抖动，从而出现redis性能瓶颈。\n",
      "对于第1种热点问题，在vivo商城常见的场景是：新发的爆品手机，在准点售卖时会有抢购效应，容易造成库存数据库单行的瓶颈问题。针对这种热点问题，我们的解决方案是“分而治之”：\n",
      "对于潜在的热点爆款手机，我们会将库存平均分为多行（比如M行），扣减库存时，随机在M行中选取一行库存数据进行扣减。该方案突破了数据库单行锁的瓶颈限制，解决了爆款商品的热点问题。\n",
      "对于第2种redis单片热点问题，解决方案也是分而治之。将数据库中的库存数据同步到redis时，把key值打散，分散在多个redis单片中。注：我们目前线上的流量峰值还达不到会造成redis单片瓶颈的问题，为避免过度设计，只做了前置限流，没有进行key值的打散。\n",
      "4.3 库存同步方案\n",
      "库存系统存在一些库存同步场景：\n",
      "对接仓储系统，完成实物库存同步。\n",
      "兼容历史架构，商品系统库存的可售库存同步等。\n",
      "（1）实物库存同步：\n",
      "实物库存同步，对接的是仓储系统，通过接口来获取商品的实际库存。实物库存同步分成两种：定时全量同步、指定单品更新。\n",
      "定时全量同步：每天定时全量拉取库存调度平台的实物库存进行全量同步。\n",
      "制定单品：运营也可以手动触发单个sku的商品即时同步实物库存。\n",
      "（2）商品系统库存同步：\n",
      "由于库存系统多个场景涉及库存变更，运营手动编辑、用户下单退款导致库存扣减回退，还有商品系统内编辑库存数据也会导致库存变更（以前库存系统未独立，库存数据维护在商品系统）。同时很多业务在查询库存时，参考的依旧是商品系统的库存数据。\n",
      "这里有一个问题：库存系统已经独立出来，为什么还会依赖商品系统的库存数据？\n",
      "这有两点原因：\n",
      "商城多个业务的后台有商品筛选的需要，商品筛选会有库存数量的筛选项。商品数量很多，筛选是分页的，如果将库存数据全部替换成库存系统的，那么存在跨系统分页问题，分页筛选会存在问题；\n",
      "历史遗留问题，很多业务方依赖的是商品系统的库存数据（包括依赖商品库存离线表的业务方），全部切换到库存系统，成本和影响范围大。\n",
      "因此，我们需要保证商品系统和库存系统两边库存数据的一致。\n",
      "库存变更场景多，为了降低业务复杂度、采用简单的方式实现库存同步，我们利用了团队自研的CDC系统（鲁班平台），整体流程如下：\n",
      "库存数据库发生变更后，鲁班平台通过binlog采集获取库存变更日志，再通过自定义规则筛选，然后发送mq变更消息，最后商品系统消费消息完成库存同步变更。\n",
      "五、总结及展望\n",
      "最后对库存系统进行一个总结：\n",
      "库存系统完成服务拆分，在单一的可售库存扣减功能基础上拓展了很多功能，赋能业务的发展。\n",
      "完成库存架构分层，抽象多个库存类型，更灵活地满足当前业务需求。\n",
      "针对库存扣减防重、高并发场景下的库存扣减、库存热点问题、库存同步等技术问题，我们根据业务实际情况设计合理方案。\n",
      "展望\n",
      "目前vivo商城库存系统平台化能力不足，部分能力分散在其他系统中，未来我们希望能为vivo新零售提供一体化的库存管理方案。\n",
      "分享 vivo 互联网技术干货与沙龙活动，推荐最新行业动态与热门会议。\n",
      "posted @ 2023-03-10 15:16  vivo互联网技术  阅读(14)  评论(0)  编辑  收藏  举报\n",
      "var cb_entryId = 17202501, cb_entryCreatedDate = '2023-03-10 15:16', cb_postType = 1, cb_postTitle = 'vivo全球商城：库存系统架构设计与实践'; var allowComments = true, cb_blogId = 498089, cb_blogApp = 'vivotech', cb_blogUserGuid = '144690cc-79e2-4508-aa7f-08d6a1e9eeef'; mermaidRender.render() markdown_highlight() zoomManager.apply(\"#cnblogs_post_body img:not(.code_img_closed):not(.code_img_opened)\"); updatePostStats( [cb_entryId], function(id, count) { $(\"#post_view_count\").text(count) }, function(id, count) { $(\"#post_comment_count\").text(count) })\n",
      "刷新评论刷新页面返回顶部\n",
      "var commentManager = new blogCommentManager(); commentManager.renderComments(0); fixPostBody(); window.footnoteTipManager.generateFootnoteTips(); window.tocManager.displayDisableTocTips = false; window.tocManager.generateToc(); setTimeout(function() { countViews(cb_blogId, cb_entryId); }, 50); deliverT2(); deliverC1C2(); loadNewsAndKb(); LoadPostCategoriesTags(cb_blogId, cb_entryId); LoadPostInfoBlock(cb_blogId, cb_entryId, cb_blogApp, cb_blogUserGuid); GetPrevNextPost(cb_entryId, cb_blogId, cb_entryCreatedDate, cb_postType); loadOptUnderPost(); GetHistoryToday(cb_blogId, cb_blogApp, cb_entryCreatedDate);\n",
      "公告\n",
      "loadBlogNews();\n",
      "loadBlogDefaultCalendar();\n",
      "loadBlogSideColumn();\n",
      "Copyright © 2023 vivo互联网技术\n",
      "Powered by .NET 7.0 on Kubernetes\n",
      "vivo 互联网技术\n",
      "分享 vivo 互联网技术干货与沙龙活动，推荐最新行业动态与热门会议。\n",
      "博客园\n",
      "首页\n",
      "新随笔\n",
      "联系\n",
      "订阅\n",
      "管理\n",
      "loadBlogStats();\n",
      "vivo 互联网技术\n",
      "分享 vivo 互联网技术干货与沙龙活动，推荐最新行业动态与热门会议。\n",
      "博客园\n",
      "首页\n",
      "新随笔\n",
      "联系\n",
      "订阅\n",
      "管理\n",
      "loadBlogStats();\n",
      "loadBlogStats();\n",
      "loadBlogStats();\n",
      "vivo全球商城：库存系统架构设计与实践\n",
      "本文主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "作者：vivo官网商城开发团队 - Xu Yi、Yan Chao\n",
      "本文是vivo商城系列文章，主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "一、业务背景\n",
      "库存系统是电商商品管理的核心系统，本文主要介绍vivo商城库存中心发展历程、架构设计思路及应对各种业务场景的实践。\n",
      "vivo商城原库存系统耦合在商品系统，考虑到相关业务逻辑复杂度越来越高，库存做了服务拆分，在可售库存管理的基础上新增了实物库存管理、秒杀库存、物流时效 、发货限制、分仓管理等功能，满足了商城库存相关业务需求。\n",
      "本文将介绍vivo商城库存系统架构设计经验以及一些问题的解决方案。\n",
      "二、系统架构设计\n",
      "2.1 vivo大电商库存架构\n",
      "根据vivo大电商的销售渠道与业务场景可以将库存业务架构分为3个层级：仓库层、调度层以及销售层。\n",
      "仓库层对应实体仓库，包括自营仓库、顺丰仓等第三方仓库以及WMS系统、ERP系统等；调度层负责库存调度与订单发货管理；销售层包含多个服务终端，vivo官方商城、vivo门店、第三方电商分销渠道等。其分层结构如图所示：\n",
      "本文探讨的vivo官方商城库存架构设计，从整个vivo大电商库存架构来看，vivo官方商城库存系统涉及销售层内部架构以及销售层与调度层的交互。\n",
      "2.2 商城库存系统架构演变\n",
      "早期商城的库存冗余在各业务系统中，如可售库存在商品系统、活动库存在营销系统等，库存流转也只有扣减与释放，无法针对库存进行整合与业务创新，存在诸多限制：\n",
      "不能进行精细化管理，库存未分层，无法针对实物库存、分仓策略、活动库存进行精细化管理。\n",
      "没有分仓策略，无法提前获取商品收发地址，物流时效无法估算。\n",
      "无法针对地区、商品等进行发货管控。\n",
      "实时性差，无法及时同步实物库存以及分仓策略。\n",
      "性能弱，与其他系统耦合大，不能灵活扩展。\n",
      "基于上述限制与产品期望，21年库存系统完成初版架构设计，此后系统不断迭代完善，形成当前的系统架构：\n",
      "库存系统提供两个核心能力：交易能力和库存管理。上层业务方可以调用提供的API完成库存查询、库存扣减等操作；管理台可以按成分仓策略、库存同步等操作。\n",
      "三、系统业务架构\n",
      "3.1 库存类型&分仓管理\n",
      "3.1.1 库存类型结构\n",
      "库存系统一共包含4类库存：可售库存、实物库存、预占库存、活动库存。\n",
      "可售库存：运营配置的普通商品库存，商品维度到SKU。\n",
      "实物库存：由仓储系统同步到库存系统的实物库存，细化到具体仓库。\n",
      "预占库存：用户下单完成库存预占，仓储系统发货后释放预占库存，预占库存可以监控已下单未发货库存量。\n",
      "活动库存：用于秒杀、抢购等各类营销活动的商品库存。\n",
      "基于不同类型库存，可以构建一个简单的库存分层体系：\n",
      "3.1.2 分仓管理\n",
      "库存中心还维护了仓库信息、分仓策略、仓库实物库存信息等等：\n",
      "仓库信息：仓库基础信息，包括仓库地址、类型、编码等。\n",
      "分仓策略：仓库功能信息，仓库可发货区域、无实物库存后的备选仓库；订单根据收货地址对应优先发货的仓库，争取尽快发货尽早到货。\n",
      "仓库库存：仓库实物库存，由仓库调度系统同步到商城库存系统。\n",
      "3.2 商城库存流转方案\n",
      "商品库存流转涉及两个主要操作：正向库存扣减、逆向库存回退，整套库存变更流程如下：\n",
      "3.2.1 正向库存扣减流程\n",
      "对于库存扣减，目前常见有两种库存扣减方案：\n",
      "（1）下单时扣库存。\n",
      "优点是：实时扣库存，避免付款时因库存不足而阻断影响用户体验。\n",
      "缺点是：库存有限的情况下，恶意下单占库存影响其他正常用户下单。比如说有100台手机，如果没有限制下单数量，这100个库存可能被一个用户恶意占用，导致其他用户无法购买。\n",
      "（2）支付时扣库存。\n",
      "优点是：不受恶意下单影响。\n",
      "缺点是：当支付订单数大于实际库存，会阻断部分用户支付，影响购物体验。比如说只有100台手机，但可能下了1000个订单，但有900个订单在支付时无法购买。\n",
      "从用户体验考虑，我们采用的是下单时扣库存 + 回退这种方案。\n",
      "下单时扣减库存，但只保留一段时间（比如15分钟），保留时间段内未支付则释放库存，避免长时间占用库存。\n",
      "3.2.2 逆向库存回退流程\n",
      "库存回退基于库存变更日志逐个回退。\n",
      "库存回退基本流程：订单出库前用户申请退款，回退可售库存、回退预占库存、软删除扣减日志、增加回退日志；一旦商品出库，用户申请退货走处理机流程，可售库存和实物库存均不回退。\n",
      "3.3 精细化发货管控\n",
      "库存系统还提供了一系列定制辅助功能：分仓策略、发货限制、物流时效等等。\n",
      "（1）分仓策略\n",
      "为了给用户更快的发货，我们采用的是分仓策略，即由最近的仓库（存在优先级）给用户发货；同时存在备选仓库，当所有仓库无实物库存时可走备选仓库。\n",
      "3.3.1 发货限制\n",
      "发货限制分地区限制时间限制。\n",
      "地区限制：根据收货地址批量设置部分区域无法发货等规则，粒度到省市区维度。\n",
      "时间限制：仓库的发货时效管理，包括每天的发货时段、大促发货时段、以及特殊情况下的停发时段。\n",
      "3.3.2 物流时效预估\n",
      "根据用户收货地址，基于分仓策略确定发货地址，再基于发货时效确定发货时间，提升用户体验。\n",
      "四、系统架构技术要点\n",
      "4.1 库存扣减防重\n",
      "订单重复提交会导致库存重复扣减，比如用户误提交、系统超时重试等，针对此类问题有如下常见解决方案：\n",
      "订单提交按钮单击置灰，避免重复提交。注：对于按钮置灰这种方案，可以减少用户误触重复提交的可能性，但不能从根本上解决库存被重复扣减的问题，比如通过脚本来刷扣减库存的接口，依旧造成库存的重复扣减。\n",
      "保证库存扣减接口的幂等性。注：保证接口幂等的方案有很多，比如每次扣减库存时，带上唯一的流水号，利用数据库的唯一索引保证幂等等。\n",
      "采用令牌机制。用户提交订单会进行令牌校验，校验通过才能提交订单。注：这种方案保证每次提交的订单是唯一的，如果用户多次下单，那么会产生多个订单。\n",
      "本系统采用的是保证接口幂等性的方案。\n",
      "在库存扣减接口入参中增加订单序列号作为唯一标识，库存扣减时增加一条扣减日志。当接口重复请求时，会优先校验是否已经存在扣减记录，如果已存在则直接返回，避免重复扣减问题，具体流程如下：\n",
      "4.2 防超卖与高并发扣减方案\n",
      "4.2.1 常规渠道防超卖方案\n",
      "常规下单渠道流量小且对超卖风险厌恶度极高，常用的防超卖方案有：\n",
      "方案一：直接数据库扣减。通过sql判断剩余库存是否大于等于待扣库存，满足则扣减库存。该方案利用乐观锁原理即update的排他性确保事务性，避免超卖。\n",
      "伪代码sql：\n",
      "sql：update store set store = store - #{deductStore } where (store-#{deductStore }) >= 0\n",
      "该方案的优点是：\n",
      "实库实扣，不会出现超卖；\n",
      "数据库乐观锁保证并发扣减一致性；\n",
      "数据库事务保证批量扣减正常回滚。\n",
      "该方案的缺点是：\n",
      "行级锁的原因存在性能瓶颈，高并发会出现请求堵塞超时问题；\n",
      "直连数据库，每次扣库存都是写操作，接口性能较低。\n",
      "方案二：利用分布式锁，强制串行化扣减同一商品库存。\n",
      "该方案的优点是：\n",
      "减轻数据库压力，同时还能确保不会超卖。\n",
      "该方案的缺点是：\n",
      "每次只能有一个请求抢占锁，不能应对高并发场景。\n",
      "对于常规渠道，库存扣减是后置逻辑，流量不高，我们采用的是直接数据库扣减，且针对弊端做了一些措施：\n",
      "前置校验严格，同时针对刷单场景会有严格限流，保证最终扣减库存的流量可控；\n",
      "库存系统读写分离，减少数据库的压力。\n",
      "4.2.2 高并发库存扣减方案\n",
      "针对高并发库存扣减，比如秒杀，一般采用的是缓存扣减库存的方式（redis+lua脚本实现单线程库存更新）作为前置流程，代替数据库直接更新。\n",
      "在redis中扣减库存虽然性能高，可以大大减轻数据库压力，但需要保证缓存数据能完整、正确的入库，以保证最终一致性。\n",
      "针对缓存数据更新至数据库，目前主流方案有两种：\n",
      "方案一：Redis数据直接异步更新至数据库。\n",
      "优点：简单、没有复杂的流程。\n",
      "缺陷：redis宕机或者故障，可能会造成缓存内库存数据的丢失。\n",
      "方案二：Redis扣减库存时，同步在业务数据中insert库存信息。\n",
      "这里大家可能会有两个疑问：\n",
      "有数据库的插入操作，性能怎么保证？\n",
      "有数据库的操作，又有redis的更新，事务性怎么保证？\n",
      "异步更新业务库存在延迟，库存逆向回退如何保证？\n",
      "对于疑问1：由于数据库insert比update性能优，insert是在表的末尾直接插入，没有寻址的过程，可以保证性能比较快。\n",
      "对于疑问2：方案2不同于缓存直接扣减，而是把缓存扣减放在数据库insert的事务内，通过数据库的事务保证整体的事务。\n",
      "insert的表被称为库存任务表，其中保存了库存扣减的信息，库存任务表结构可以设计的非常简单，主键 + 库存信息（json字符串）就可以了。\n",
      "后续通过异步任务，从库存任务表表中查询出库存更新信息，将其同步到具体的库存表中，实现最终一致性，这种方案可以避免数据的丢失。\n",
      "对于疑问3：库存回退是根据业务库中扣减记录进行回退的，由于异步更新业务库必定存在延迟（延迟极低，数秒以内），所以极端场景会存在走退款逆向流程时业务库的库存扣减记录还未更新。\n",
      "针对这种情况库存回退设置延迟重试机制，如果再极端点达到重试阈值依旧没有扣减记录，则返回回退成功，不做阻断。\n",
      "目前我们针对秒杀库存扣减，采用的是方案2。但毕竟涉及数据库的更新，为了避免风险，在前置流量校验上做了限制，保证流量的可控：\n",
      "4.2.3 库存热点问题\n",
      "什么是热点问题？热点问题就是因热点商品导致的redis、数据库等性能瓶颈。在库存系统中，热点问题主要存在：\n",
      "采用直接扣减库存数据库的方式，存在数据库的行锁问题。常规渠道的库存扣减，我们采用的就是的就是这种方式。\n",
      "采用缓存扣减库存的方式，大流量的情况下，热点商品扣减库存操作会打向redis单片，造成单片性能抖动，从而出现redis性能瓶颈。\n",
      "对于第1种热点问题，在vivo商城常见的场景是：新发的爆品手机，在准点售卖时会有抢购效应，容易造成库存数据库单行的瓶颈问题。针对这种热点问题，我们的解决方案是“分而治之”：\n",
      "对于潜在的热点爆款手机，我们会将库存平均分为多行（比如M行），扣减库存时，随机在M行中选取一行库存数据进行扣减。该方案突破了数据库单行锁的瓶颈限制，解决了爆款商品的热点问题。\n",
      "对于第2种redis单片热点问题，解决方案也是分而治之。将数据库中的库存数据同步到redis时，把key值打散，分散在多个redis单片中。注：我们目前线上的流量峰值还达不到会造成redis单片瓶颈的问题，为避免过度设计，只做了前置限流，没有进行key值的打散。\n",
      "4.3 库存同步方案\n",
      "库存系统存在一些库存同步场景：\n",
      "对接仓储系统，完成实物库存同步。\n",
      "兼容历史架构，商品系统库存的可售库存同步等。\n",
      "（1）实物库存同步：\n",
      "实物库存同步，对接的是仓储系统，通过接口来获取商品的实际库存。实物库存同步分成两种：定时全量同步、指定单品更新。\n",
      "定时全量同步：每天定时全量拉取库存调度平台的实物库存进行全量同步。\n",
      "制定单品：运营也可以手动触发单个sku的商品即时同步实物库存。\n",
      "（2）商品系统库存同步：\n",
      "由于库存系统多个场景涉及库存变更，运营手动编辑、用户下单退款导致库存扣减回退，还有商品系统内编辑库存数据也会导致库存变更（以前库存系统未独立，库存数据维护在商品系统）。同时很多业务在查询库存时，参考的依旧是商品系统的库存数据。\n",
      "这里有一个问题：库存系统已经独立出来，为什么还会依赖商品系统的库存数据？\n",
      "这有两点原因：\n",
      "商城多个业务的后台有商品筛选的需要，商品筛选会有库存数量的筛选项。商品数量很多，筛选是分页的，如果将库存数据全部替换成库存系统的，那么存在跨系统分页问题，分页筛选会存在问题；\n",
      "历史遗留问题，很多业务方依赖的是商品系统的库存数据（包括依赖商品库存离线表的业务方），全部切换到库存系统，成本和影响范围大。\n",
      "因此，我们需要保证商品系统和库存系统两边库存数据的一致。\n",
      "库存变更场景多，为了降低业务复杂度、采用简单的方式实现库存同步，我们利用了团队自研的CDC系统（鲁班平台），整体流程如下：\n",
      "库存数据库发生变更后，鲁班平台通过binlog采集获取库存变更日志，再通过自定义规则筛选，然后发送mq变更消息，最后商品系统消费消息完成库存同步变更。\n",
      "五、总结及展望\n",
      "最后对库存系统进行一个总结：\n",
      "库存系统完成服务拆分，在单一的可售库存扣减功能基础上拓展了很多功能，赋能业务的发展。\n",
      "完成库存架构分层，抽象多个库存类型，更灵活地满足当前业务需求。\n",
      "针对库存扣减防重、高并发场景下的库存扣减、库存热点问题、库存同步等技术问题，我们根据业务实际情况设计合理方案。\n",
      "展望\n",
      "目前vivo商城库存系统平台化能力不足，部分能力分散在其他系统中，未来我们希望能为vivo新零售提供一体化的库存管理方案。\n",
      "分享 vivo 互联网技术干货与沙龙活动，推荐最新行业动态与热门会议。\n",
      "posted @ 2023-03-10 15:16  vivo互联网技术  阅读(14)  评论(0)  编辑  收藏  举报\n",
      "var cb_entryId = 17202501, cb_entryCreatedDate = '2023-03-10 15:16', cb_postType = 1, cb_postTitle = 'vivo全球商城：库存系统架构设计与实践'; var allowComments = true, cb_blogId = 498089, cb_blogApp = 'vivotech', cb_blogUserGuid = '144690cc-79e2-4508-aa7f-08d6a1e9eeef'; mermaidRender.render() markdown_highlight() zoomManager.apply(\"#cnblogs_post_body img:not(.code_img_closed):not(.code_img_opened)\"); updatePostStats( [cb_entryId], function(id, count) { $(\"#post_view_count\").text(count) }, function(id, count) { $(\"#post_comment_count\").text(count) })\n",
      "刷新评论刷新页面返回顶部\n",
      "var commentManager = new blogCommentManager(); commentManager.renderComments(0); fixPostBody(); window.footnoteTipManager.generateFootnoteTips(); window.tocManager.displayDisableTocTips = false; window.tocManager.generateToc(); setTimeout(function() { countViews(cb_blogId, cb_entryId); }, 50); deliverT2(); deliverC1C2(); loadNewsAndKb(); LoadPostCategoriesTags(cb_blogId, cb_entryId); LoadPostInfoBlock(cb_blogId, cb_entryId, cb_blogApp, cb_blogUserGuid); GetPrevNextPost(cb_entryId, cb_blogId, cb_entryCreatedDate, cb_postType); loadOptUnderPost(); GetHistoryToday(cb_blogId, cb_blogApp, cb_entryCreatedDate);\n",
      "公告\n",
      "loadBlogNews();\n",
      "loadBlogDefaultCalendar();\n",
      "loadBlogSideColumn();\n",
      "vivo全球商城：库存系统架构设计与实践\n",
      "本文主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "作者：vivo官网商城开发团队 - Xu Yi、Yan Chao\n",
      "本文是vivo商城系列文章，主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "一、业务背景\n",
      "库存系统是电商商品管理的核心系统，本文主要介绍vivo商城库存中心发展历程、架构设计思路及应对各种业务场景的实践。\n",
      "vivo商城原库存系统耦合在商品系统，考虑到相关业务逻辑复杂度越来越高，库存做了服务拆分，在可售库存管理的基础上新增了实物库存管理、秒杀库存、物流时效 、发货限制、分仓管理等功能，满足了商城库存相关业务需求。\n",
      "本文将介绍vivo商城库存系统架构设计经验以及一些问题的解决方案。\n",
      "二、系统架构设计\n",
      "2.1 vivo大电商库存架构\n",
      "根据vivo大电商的销售渠道与业务场景可以将库存业务架构分为3个层级：仓库层、调度层以及销售层。\n",
      "仓库层对应实体仓库，包括自营仓库、顺丰仓等第三方仓库以及WMS系统、ERP系统等；调度层负责库存调度与订单发货管理；销售层包含多个服务终端，vivo官方商城、vivo门店、第三方电商分销渠道等。其分层结构如图所示：\n",
      "本文探讨的vivo官方商城库存架构设计，从整个vivo大电商库存架构来看，vivo官方商城库存系统涉及销售层内部架构以及销售层与调度层的交互。\n",
      "2.2 商城库存系统架构演变\n",
      "早期商城的库存冗余在各业务系统中，如可售库存在商品系统、活动库存在营销系统等，库存流转也只有扣减与释放，无法针对库存进行整合与业务创新，存在诸多限制：\n",
      "不能进行精细化管理，库存未分层，无法针对实物库存、分仓策略、活动库存进行精细化管理。\n",
      "没有分仓策略，无法提前获取商品收发地址，物流时效无法估算。\n",
      "无法针对地区、商品等进行发货管控。\n",
      "实时性差，无法及时同步实物库存以及分仓策略。\n",
      "性能弱，与其他系统耦合大，不能灵活扩展。\n",
      "基于上述限制与产品期望，21年库存系统完成初版架构设计，此后系统不断迭代完善，形成当前的系统架构：\n",
      "库存系统提供两个核心能力：交易能力和库存管理。上层业务方可以调用提供的API完成库存查询、库存扣减等操作；管理台可以按成分仓策略、库存同步等操作。\n",
      "三、系统业务架构\n",
      "3.1 库存类型&分仓管理\n",
      "3.1.1 库存类型结构\n",
      "库存系统一共包含4类库存：可售库存、实物库存、预占库存、活动库存。\n",
      "可售库存：运营配置的普通商品库存，商品维度到SKU。\n",
      "实物库存：由仓储系统同步到库存系统的实物库存，细化到具体仓库。\n",
      "预占库存：用户下单完成库存预占，仓储系统发货后释放预占库存，预占库存可以监控已下单未发货库存量。\n",
      "活动库存：用于秒杀、抢购等各类营销活动的商品库存。\n",
      "基于不同类型库存，可以构建一个简单的库存分层体系：\n",
      "3.1.2 分仓管理\n",
      "库存中心还维护了仓库信息、分仓策略、仓库实物库存信息等等：\n",
      "仓库信息：仓库基础信息，包括仓库地址、类型、编码等。\n",
      "分仓策略：仓库功能信息，仓库可发货区域、无实物库存后的备选仓库；订单根据收货地址对应优先发货的仓库，争取尽快发货尽早到货。\n",
      "仓库库存：仓库实物库存，由仓库调度系统同步到商城库存系统。\n",
      "3.2 商城库存流转方案\n",
      "商品库存流转涉及两个主要操作：正向库存扣减、逆向库存回退，整套库存变更流程如下：\n",
      "3.2.1 正向库存扣减流程\n",
      "对于库存扣减，目前常见有两种库存扣减方案：\n",
      "（1）下单时扣库存。\n",
      "优点是：实时扣库存，避免付款时因库存不足而阻断影响用户体验。\n",
      "缺点是：库存有限的情况下，恶意下单占库存影响其他正常用户下单。比如说有100台手机，如果没有限制下单数量，这100个库存可能被一个用户恶意占用，导致其他用户无法购买。\n",
      "（2）支付时扣库存。\n",
      "优点是：不受恶意下单影响。\n",
      "缺点是：当支付订单数大于实际库存，会阻断部分用户支付，影响购物体验。比如说只有100台手机，但可能下了1000个订单，但有900个订单在支付时无法购买。\n",
      "从用户体验考虑，我们采用的是下单时扣库存 + 回退这种方案。\n",
      "下单时扣减库存，但只保留一段时间（比如15分钟），保留时间段内未支付则释放库存，避免长时间占用库存。\n",
      "3.2.2 逆向库存回退流程\n",
      "库存回退基于库存变更日志逐个回退。\n",
      "库存回退基本流程：订单出库前用户申请退款，回退可售库存、回退预占库存、软删除扣减日志、增加回退日志；一旦商品出库，用户申请退货走处理机流程，可售库存和实物库存均不回退。\n",
      "3.3 精细化发货管控\n",
      "库存系统还提供了一系列定制辅助功能：分仓策略、发货限制、物流时效等等。\n",
      "（1）分仓策略\n",
      "为了给用户更快的发货，我们采用的是分仓策略，即由最近的仓库（存在优先级）给用户发货；同时存在备选仓库，当所有仓库无实物库存时可走备选仓库。\n",
      "3.3.1 发货限制\n",
      "发货限制分地区限制时间限制。\n",
      "地区限制：根据收货地址批量设置部分区域无法发货等规则，粒度到省市区维度。\n",
      "时间限制：仓库的发货时效管理，包括每天的发货时段、大促发货时段、以及特殊情况下的停发时段。\n",
      "3.3.2 物流时效预估\n",
      "根据用户收货地址，基于分仓策略确定发货地址，再基于发货时效确定发货时间，提升用户体验。\n",
      "四、系统架构技术要点\n",
      "4.1 库存扣减防重\n",
      "订单重复提交会导致库存重复扣减，比如用户误提交、系统超时重试等，针对此类问题有如下常见解决方案：\n",
      "订单提交按钮单击置灰，避免重复提交。注：对于按钮置灰这种方案，可以减少用户误触重复提交的可能性，但不能从根本上解决库存被重复扣减的问题，比如通过脚本来刷扣减库存的接口，依旧造成库存的重复扣减。\n",
      "保证库存扣减接口的幂等性。注：保证接口幂等的方案有很多，比如每次扣减库存时，带上唯一的流水号，利用数据库的唯一索引保证幂等等。\n",
      "采用令牌机制。用户提交订单会进行令牌校验，校验通过才能提交订单。注：这种方案保证每次提交的订单是唯一的，如果用户多次下单，那么会产生多个订单。\n",
      "本系统采用的是保证接口幂等性的方案。\n",
      "在库存扣减接口入参中增加订单序列号作为唯一标识，库存扣减时增加一条扣减日志。当接口重复请求时，会优先校验是否已经存在扣减记录，如果已存在则直接返回，避免重复扣减问题，具体流程如下：\n",
      "4.2 防超卖与高并发扣减方案\n",
      "4.2.1 常规渠道防超卖方案\n",
      "常规下单渠道流量小且对超卖风险厌恶度极高，常用的防超卖方案有：\n",
      "方案一：直接数据库扣减。通过sql判断剩余库存是否大于等于待扣库存，满足则扣减库存。该方案利用乐观锁原理即update的排他性确保事务性，避免超卖。\n",
      "伪代码sql：\n",
      "sql：update store set store = store - #{deductStore } where (store-#{deductStore }) >= 0\n",
      "该方案的优点是：\n",
      "实库实扣，不会出现超卖；\n",
      "数据库乐观锁保证并发扣减一致性；\n",
      "数据库事务保证批量扣减正常回滚。\n",
      "该方案的缺点是：\n",
      "行级锁的原因存在性能瓶颈，高并发会出现请求堵塞超时问题；\n",
      "直连数据库，每次扣库存都是写操作，接口性能较低。\n",
      "方案二：利用分布式锁，强制串行化扣减同一商品库存。\n",
      "该方案的优点是：\n",
      "减轻数据库压力，同时还能确保不会超卖。\n",
      "该方案的缺点是：\n",
      "每次只能有一个请求抢占锁，不能应对高并发场景。\n",
      "对于常规渠道，库存扣减是后置逻辑，流量不高，我们采用的是直接数据库扣减，且针对弊端做了一些措施：\n",
      "前置校验严格，同时针对刷单场景会有严格限流，保证最终扣减库存的流量可控；\n",
      "库存系统读写分离，减少数据库的压力。\n",
      "4.2.2 高并发库存扣减方案\n",
      "针对高并发库存扣减，比如秒杀，一般采用的是缓存扣减库存的方式（redis+lua脚本实现单线程库存更新）作为前置流程，代替数据库直接更新。\n",
      "在redis中扣减库存虽然性能高，可以大大减轻数据库压力，但需要保证缓存数据能完整、正确的入库，以保证最终一致性。\n",
      "针对缓存数据更新至数据库，目前主流方案有两种：\n",
      "方案一：Redis数据直接异步更新至数据库。\n",
      "优点：简单、没有复杂的流程。\n",
      "缺陷：redis宕机或者故障，可能会造成缓存内库存数据的丢失。\n",
      "方案二：Redis扣减库存时，同步在业务数据中insert库存信息。\n",
      "这里大家可能会有两个疑问：\n",
      "有数据库的插入操作，性能怎么保证？\n",
      "有数据库的操作，又有redis的更新，事务性怎么保证？\n",
      "异步更新业务库存在延迟，库存逆向回退如何保证？\n",
      "对于疑问1：由于数据库insert比update性能优，insert是在表的末尾直接插入，没有寻址的过程，可以保证性能比较快。\n",
      "对于疑问2：方案2不同于缓存直接扣减，而是把缓存扣减放在数据库insert的事务内，通过数据库的事务保证整体的事务。\n",
      "insert的表被称为库存任务表，其中保存了库存扣减的信息，库存任务表结构可以设计的非常简单，主键 + 库存信息（json字符串）就可以了。\n",
      "后续通过异步任务，从库存任务表表中查询出库存更新信息，将其同步到具体的库存表中，实现最终一致性，这种方案可以避免数据的丢失。\n",
      "对于疑问3：库存回退是根据业务库中扣减记录进行回退的，由于异步更新业务库必定存在延迟（延迟极低，数秒以内），所以极端场景会存在走退款逆向流程时业务库的库存扣减记录还未更新。\n",
      "针对这种情况库存回退设置延迟重试机制，如果再极端点达到重试阈值依旧没有扣减记录，则返回回退成功，不做阻断。\n",
      "目前我们针对秒杀库存扣减，采用的是方案2。但毕竟涉及数据库的更新，为了避免风险，在前置流量校验上做了限制，保证流量的可控：\n",
      "4.2.3 库存热点问题\n",
      "什么是热点问题？热点问题就是因热点商品导致的redis、数据库等性能瓶颈。在库存系统中，热点问题主要存在：\n",
      "采用直接扣减库存数据库的方式，存在数据库的行锁问题。常规渠道的库存扣减，我们采用的就是的就是这种方式。\n",
      "采用缓存扣减库存的方式，大流量的情况下，热点商品扣减库存操作会打向redis单片，造成单片性能抖动，从而出现redis性能瓶颈。\n",
      "对于第1种热点问题，在vivo商城常见的场景是：新发的爆品手机，在准点售卖时会有抢购效应，容易造成库存数据库单行的瓶颈问题。针对这种热点问题，我们的解决方案是“分而治之”：\n",
      "对于潜在的热点爆款手机，我们会将库存平均分为多行（比如M行），扣减库存时，随机在M行中选取一行库存数据进行扣减。该方案突破了数据库单行锁的瓶颈限制，解决了爆款商品的热点问题。\n",
      "对于第2种redis单片热点问题，解决方案也是分而治之。将数据库中的库存数据同步到redis时，把key值打散，分散在多个redis单片中。注：我们目前线上的流量峰值还达不到会造成redis单片瓶颈的问题，为避免过度设计，只做了前置限流，没有进行key值的打散。\n",
      "4.3 库存同步方案\n",
      "库存系统存在一些库存同步场景：\n",
      "对接仓储系统，完成实物库存同步。\n",
      "兼容历史架构，商品系统库存的可售库存同步等。\n",
      "（1）实物库存同步：\n",
      "实物库存同步，对接的是仓储系统，通过接口来获取商品的实际库存。实物库存同步分成两种：定时全量同步、指定单品更新。\n",
      "定时全量同步：每天定时全量拉取库存调度平台的实物库存进行全量同步。\n",
      "制定单品：运营也可以手动触发单个sku的商品即时同步实物库存。\n",
      "（2）商品系统库存同步：\n",
      "由于库存系统多个场景涉及库存变更，运营手动编辑、用户下单退款导致库存扣减回退，还有商品系统内编辑库存数据也会导致库存变更（以前库存系统未独立，库存数据维护在商品系统）。同时很多业务在查询库存时，参考的依旧是商品系统的库存数据。\n",
      "这里有一个问题：库存系统已经独立出来，为什么还会依赖商品系统的库存数据？\n",
      "这有两点原因：\n",
      "商城多个业务的后台有商品筛选的需要，商品筛选会有库存数量的筛选项。商品数量很多，筛选是分页的，如果将库存数据全部替换成库存系统的，那么存在跨系统分页问题，分页筛选会存在问题；\n",
      "历史遗留问题，很多业务方依赖的是商品系统的库存数据（包括依赖商品库存离线表的业务方），全部切换到库存系统，成本和影响范围大。\n",
      "因此，我们需要保证商品系统和库存系统两边库存数据的一致。\n",
      "库存变更场景多，为了降低业务复杂度、采用简单的方式实现库存同步，我们利用了团队自研的CDC系统（鲁班平台），整体流程如下：\n",
      "库存数据库发生变更后，鲁班平台通过binlog采集获取库存变更日志，再通过自定义规则筛选，然后发送mq变更消息，最后商品系统消费消息完成库存同步变更。\n",
      "五、总结及展望\n",
      "最后对库存系统进行一个总结：\n",
      "库存系统完成服务拆分，在单一的可售库存扣减功能基础上拓展了很多功能，赋能业务的发展。\n",
      "完成库存架构分层，抽象多个库存类型，更灵活地满足当前业务需求。\n",
      "针对库存扣减防重、高并发场景下的库存扣减、库存热点问题、库存同步等技术问题，我们根据业务实际情况设计合理方案。\n",
      "展望\n",
      "目前vivo商城库存系统平台化能力不足，部分能力分散在其他系统中，未来我们希望能为vivo新零售提供一体化的库存管理方案。\n",
      "分享 vivo 互联网技术干货与沙龙活动，推荐最新行业动态与热门会议。\n",
      "posted @ 2023-03-10 15:16  vivo互联网技术  阅读(14)  评论(0)  编辑  收藏  举报\n",
      "var cb_entryId = 17202501, cb_entryCreatedDate = '2023-03-10 15:16', cb_postType = 1, cb_postTitle = 'vivo全球商城：库存系统架构设计与实践'; var allowComments = true, cb_blogId = 498089, cb_blogApp = 'vivotech', cb_blogUserGuid = '144690cc-79e2-4508-aa7f-08d6a1e9eeef'; mermaidRender.render() markdown_highlight() zoomManager.apply(\"#cnblogs_post_body img:not(.code_img_closed):not(.code_img_opened)\"); updatePostStats( [cb_entryId], function(id, count) { $(\"#post_view_count\").text(count) }, function(id, count) { $(\"#post_comment_count\").text(count) })\n",
      "刷新评论刷新页面返回顶部\n",
      "var commentManager = new blogCommentManager(); commentManager.renderComments(0); fixPostBody(); window.footnoteTipManager.generateFootnoteTips(); window.tocManager.displayDisableTocTips = false; window.tocManager.generateToc(); setTimeout(function() { countViews(cb_blogId, cb_entryId); }, 50); deliverT2(); deliverC1C2(); loadNewsAndKb(); LoadPostCategoriesTags(cb_blogId, cb_entryId); LoadPostInfoBlock(cb_blogId, cb_entryId, cb_blogApp, cb_blogUserGuid); GetPrevNextPost(cb_entryId, cb_blogId, cb_entryCreatedDate, cb_postType); loadOptUnderPost(); GetHistoryToday(cb_blogId, cb_blogApp, cb_entryCreatedDate);\n",
      "vivo全球商城：库存系统架构设计与实践\n",
      "本文主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "作者：vivo官网商城开发团队 - Xu Yi、Yan Chao\n",
      "本文是vivo商城系列文章，主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "一、业务背景\n",
      "库存系统是电商商品管理的核心系统，本文主要介绍vivo商城库存中心发展历程、架构设计思路及应对各种业务场景的实践。\n",
      "vivo商城原库存系统耦合在商品系统，考虑到相关业务逻辑复杂度越来越高，库存做了服务拆分，在可售库存管理的基础上新增了实物库存管理、秒杀库存、物流时效 、发货限制、分仓管理等功能，满足了商城库存相关业务需求。\n",
      "本文将介绍vivo商城库存系统架构设计经验以及一些问题的解决方案。\n",
      "二、系统架构设计\n",
      "2.1 vivo大电商库存架构\n",
      "根据vivo大电商的销售渠道与业务场景可以将库存业务架构分为3个层级：仓库层、调度层以及销售层。\n",
      "仓库层对应实体仓库，包括自营仓库、顺丰仓等第三方仓库以及WMS系统、ERP系统等；调度层负责库存调度与订单发货管理；销售层包含多个服务终端，vivo官方商城、vivo门店、第三方电商分销渠道等。其分层结构如图所示：\n",
      "本文探讨的vivo官方商城库存架构设计，从整个vivo大电商库存架构来看，vivo官方商城库存系统涉及销售层内部架构以及销售层与调度层的交互。\n",
      "2.2 商城库存系统架构演变\n",
      "早期商城的库存冗余在各业务系统中，如可售库存在商品系统、活动库存在营销系统等，库存流转也只有扣减与释放，无法针对库存进行整合与业务创新，存在诸多限制：\n",
      "不能进行精细化管理，库存未分层，无法针对实物库存、分仓策略、活动库存进行精细化管理。\n",
      "没有分仓策略，无法提前获取商品收发地址，物流时效无法估算。\n",
      "无法针对地区、商品等进行发货管控。\n",
      "实时性差，无法及时同步实物库存以及分仓策略。\n",
      "性能弱，与其他系统耦合大，不能灵活扩展。\n",
      "基于上述限制与产品期望，21年库存系统完成初版架构设计，此后系统不断迭代完善，形成当前的系统架构：\n",
      "库存系统提供两个核心能力：交易能力和库存管理。上层业务方可以调用提供的API完成库存查询、库存扣减等操作；管理台可以按成分仓策略、库存同步等操作。\n",
      "三、系统业务架构\n",
      "3.1 库存类型&分仓管理\n",
      "3.1.1 库存类型结构\n",
      "库存系统一共包含4类库存：可售库存、实物库存、预占库存、活动库存。\n",
      "可售库存：运营配置的普通商品库存，商品维度到SKU。\n",
      "实物库存：由仓储系统同步到库存系统的实物库存，细化到具体仓库。\n",
      "预占库存：用户下单完成库存预占，仓储系统发货后释放预占库存，预占库存可以监控已下单未发货库存量。\n",
      "活动库存：用于秒杀、抢购等各类营销活动的商品库存。\n",
      "基于不同类型库存，可以构建一个简单的库存分层体系：\n",
      "3.1.2 分仓管理\n",
      "库存中心还维护了仓库信息、分仓策略、仓库实物库存信息等等：\n",
      "仓库信息：仓库基础信息，包括仓库地址、类型、编码等。\n",
      "分仓策略：仓库功能信息，仓库可发货区域、无实物库存后的备选仓库；订单根据收货地址对应优先发货的仓库，争取尽快发货尽早到货。\n",
      "仓库库存：仓库实物库存，由仓库调度系统同步到商城库存系统。\n",
      "3.2 商城库存流转方案\n",
      "商品库存流转涉及两个主要操作：正向库存扣减、逆向库存回退，整套库存变更流程如下：\n",
      "3.2.1 正向库存扣减流程\n",
      "对于库存扣减，目前常见有两种库存扣减方案：\n",
      "（1）下单时扣库存。\n",
      "优点是：实时扣库存，避免付款时因库存不足而阻断影响用户体验。\n",
      "缺点是：库存有限的情况下，恶意下单占库存影响其他正常用户下单。比如说有100台手机，如果没有限制下单数量，这100个库存可能被一个用户恶意占用，导致其他用户无法购买。\n",
      "（2）支付时扣库存。\n",
      "优点是：不受恶意下单影响。\n",
      "缺点是：当支付订单数大于实际库存，会阻断部分用户支付，影响购物体验。比如说只有100台手机，但可能下了1000个订单，但有900个订单在支付时无法购买。\n",
      "从用户体验考虑，我们采用的是下单时扣库存 + 回退这种方案。\n",
      "下单时扣减库存，但只保留一段时间（比如15分钟），保留时间段内未支付则释放库存，避免长时间占用库存。\n",
      "3.2.2 逆向库存回退流程\n",
      "库存回退基于库存变更日志逐个回退。\n",
      "库存回退基本流程：订单出库前用户申请退款，回退可售库存、回退预占库存、软删除扣减日志、增加回退日志；一旦商品出库，用户申请退货走处理机流程，可售库存和实物库存均不回退。\n",
      "3.3 精细化发货管控\n",
      "库存系统还提供了一系列定制辅助功能：分仓策略、发货限制、物流时效等等。\n",
      "（1）分仓策略\n",
      "为了给用户更快的发货，我们采用的是分仓策略，即由最近的仓库（存在优先级）给用户发货；同时存在备选仓库，当所有仓库无实物库存时可走备选仓库。\n",
      "3.3.1 发货限制\n",
      "发货限制分地区限制时间限制。\n",
      "地区限制：根据收货地址批量设置部分区域无法发货等规则，粒度到省市区维度。\n",
      "时间限制：仓库的发货时效管理，包括每天的发货时段、大促发货时段、以及特殊情况下的停发时段。\n",
      "3.3.2 物流时效预估\n",
      "根据用户收货地址，基于分仓策略确定发货地址，再基于发货时效确定发货时间，提升用户体验。\n",
      "四、系统架构技术要点\n",
      "4.1 库存扣减防重\n",
      "订单重复提交会导致库存重复扣减，比如用户误提交、系统超时重试等，针对此类问题有如下常见解决方案：\n",
      "订单提交按钮单击置灰，避免重复提交。注：对于按钮置灰这种方案，可以减少用户误触重复提交的可能性，但不能从根本上解决库存被重复扣减的问题，比如通过脚本来刷扣减库存的接口，依旧造成库存的重复扣减。\n",
      "保证库存扣减接口的幂等性。注：保证接口幂等的方案有很多，比如每次扣减库存时，带上唯一的流水号，利用数据库的唯一索引保证幂等等。\n",
      "采用令牌机制。用户提交订单会进行令牌校验，校验通过才能提交订单。注：这种方案保证每次提交的订单是唯一的，如果用户多次下单，那么会产生多个订单。\n",
      "本系统采用的是保证接口幂等性的方案。\n",
      "在库存扣减接口入参中增加订单序列号作为唯一标识，库存扣减时增加一条扣减日志。当接口重复请求时，会优先校验是否已经存在扣减记录，如果已存在则直接返回，避免重复扣减问题，具体流程如下：\n",
      "4.2 防超卖与高并发扣减方案\n",
      "4.2.1 常规渠道防超卖方案\n",
      "常规下单渠道流量小且对超卖风险厌恶度极高，常用的防超卖方案有：\n",
      "方案一：直接数据库扣减。通过sql判断剩余库存是否大于等于待扣库存，满足则扣减库存。该方案利用乐观锁原理即update的排他性确保事务性，避免超卖。\n",
      "伪代码sql：\n",
      "sql：update store set store = store - #{deductStore } where (store-#{deductStore }) >= 0\n",
      "该方案的优点是：\n",
      "实库实扣，不会出现超卖；\n",
      "数据库乐观锁保证并发扣减一致性；\n",
      "数据库事务保证批量扣减正常回滚。\n",
      "该方案的缺点是：\n",
      "行级锁的原因存在性能瓶颈，高并发会出现请求堵塞超时问题；\n",
      "直连数据库，每次扣库存都是写操作，接口性能较低。\n",
      "方案二：利用分布式锁，强制串行化扣减同一商品库存。\n",
      "该方案的优点是：\n",
      "减轻数据库压力，同时还能确保不会超卖。\n",
      "该方案的缺点是：\n",
      "每次只能有一个请求抢占锁，不能应对高并发场景。\n",
      "对于常规渠道，库存扣减是后置逻辑，流量不高，我们采用的是直接数据库扣减，且针对弊端做了一些措施：\n",
      "前置校验严格，同时针对刷单场景会有严格限流，保证最终扣减库存的流量可控；\n",
      "库存系统读写分离，减少数据库的压力。\n",
      "4.2.2 高并发库存扣减方案\n",
      "针对高并发库存扣减，比如秒杀，一般采用的是缓存扣减库存的方式（redis+lua脚本实现单线程库存更新）作为前置流程，代替数据库直接更新。\n",
      "在redis中扣减库存虽然性能高，可以大大减轻数据库压力，但需要保证缓存数据能完整、正确的入库，以保证最终一致性。\n",
      "针对缓存数据更新至数据库，目前主流方案有两种：\n",
      "方案一：Redis数据直接异步更新至数据库。\n",
      "优点：简单、没有复杂的流程。\n",
      "缺陷：redis宕机或者故障，可能会造成缓存内库存数据的丢失。\n",
      "方案二：Redis扣减库存时，同步在业务数据中insert库存信息。\n",
      "这里大家可能会有两个疑问：\n",
      "有数据库的插入操作，性能怎么保证？\n",
      "有数据库的操作，又有redis的更新，事务性怎么保证？\n",
      "异步更新业务库存在延迟，库存逆向回退如何保证？\n",
      "对于疑问1：由于数据库insert比update性能优，insert是在表的末尾直接插入，没有寻址的过程，可以保证性能比较快。\n",
      "对于疑问2：方案2不同于缓存直接扣减，而是把缓存扣减放在数据库insert的事务内，通过数据库的事务保证整体的事务。\n",
      "insert的表被称为库存任务表，其中保存了库存扣减的信息，库存任务表结构可以设计的非常简单，主键 + 库存信息（json字符串）就可以了。\n",
      "后续通过异步任务，从库存任务表表中查询出库存更新信息，将其同步到具体的库存表中，实现最终一致性，这种方案可以避免数据的丢失。\n",
      "对于疑问3：库存回退是根据业务库中扣减记录进行回退的，由于异步更新业务库必定存在延迟（延迟极低，数秒以内），所以极端场景会存在走退款逆向流程时业务库的库存扣减记录还未更新。\n",
      "针对这种情况库存回退设置延迟重试机制，如果再极端点达到重试阈值依旧没有扣减记录，则返回回退成功，不做阻断。\n",
      "目前我们针对秒杀库存扣减，采用的是方案2。但毕竟涉及数据库的更新，为了避免风险，在前置流量校验上做了限制，保证流量的可控：\n",
      "4.2.3 库存热点问题\n",
      "什么是热点问题？热点问题就是因热点商品导致的redis、数据库等性能瓶颈。在库存系统中，热点问题主要存在：\n",
      "采用直接扣减库存数据库的方式，存在数据库的行锁问题。常规渠道的库存扣减，我们采用的就是的就是这种方式。\n",
      "采用缓存扣减库存的方式，大流量的情况下，热点商品扣减库存操作会打向redis单片，造成单片性能抖动，从而出现redis性能瓶颈。\n",
      "对于第1种热点问题，在vivo商城常见的场景是：新发的爆品手机，在准点售卖时会有抢购效应，容易造成库存数据库单行的瓶颈问题。针对这种热点问题，我们的解决方案是“分而治之”：\n",
      "对于潜在的热点爆款手机，我们会将库存平均分为多行（比如M行），扣减库存时，随机在M行中选取一行库存数据进行扣减。该方案突破了数据库单行锁的瓶颈限制，解决了爆款商品的热点问题。\n",
      "对于第2种redis单片热点问题，解决方案也是分而治之。将数据库中的库存数据同步到redis时，把key值打散，分散在多个redis单片中。注：我们目前线上的流量峰值还达不到会造成redis单片瓶颈的问题，为避免过度设计，只做了前置限流，没有进行key值的打散。\n",
      "4.3 库存同步方案\n",
      "库存系统存在一些库存同步场景：\n",
      "对接仓储系统，完成实物库存同步。\n",
      "兼容历史架构，商品系统库存的可售库存同步等。\n",
      "（1）实物库存同步：\n",
      "实物库存同步，对接的是仓储系统，通过接口来获取商品的实际库存。实物库存同步分成两种：定时全量同步、指定单品更新。\n",
      "定时全量同步：每天定时全量拉取库存调度平台的实物库存进行全量同步。\n",
      "制定单品：运营也可以手动触发单个sku的商品即时同步实物库存。\n",
      "（2）商品系统库存同步：\n",
      "由于库存系统多个场景涉及库存变更，运营手动编辑、用户下单退款导致库存扣减回退，还有商品系统内编辑库存数据也会导致库存变更（以前库存系统未独立，库存数据维护在商品系统）。同时很多业务在查询库存时，参考的依旧是商品系统的库存数据。\n",
      "这里有一个问题：库存系统已经独立出来，为什么还会依赖商品系统的库存数据？\n",
      "这有两点原因：\n",
      "商城多个业务的后台有商品筛选的需要，商品筛选会有库存数量的筛选项。商品数量很多，筛选是分页的，如果将库存数据全部替换成库存系统的，那么存在跨系统分页问题，分页筛选会存在问题；\n",
      "历史遗留问题，很多业务方依赖的是商品系统的库存数据（包括依赖商品库存离线表的业务方），全部切换到库存系统，成本和影响范围大。\n",
      "因此，我们需要保证商品系统和库存系统两边库存数据的一致。\n",
      "库存变更场景多，为了降低业务复杂度、采用简单的方式实现库存同步，我们利用了团队自研的CDC系统（鲁班平台），整体流程如下：\n",
      "库存数据库发生变更后，鲁班平台通过binlog采集获取库存变更日志，再通过自定义规则筛选，然后发送mq变更消息，最后商品系统消费消息完成库存同步变更。\n",
      "五、总结及展望\n",
      "最后对库存系统进行一个总结：\n",
      "库存系统完成服务拆分，在单一的可售库存扣减功能基础上拓展了很多功能，赋能业务的发展。\n",
      "完成库存架构分层，抽象多个库存类型，更灵活地满足当前业务需求。\n",
      "针对库存扣减防重、高并发场景下的库存扣减、库存热点问题、库存同步等技术问题，我们根据业务实际情况设计合理方案。\n",
      "展望\n",
      "目前vivo商城库存系统平台化能力不足，部分能力分散在其他系统中，未来我们希望能为vivo新零售提供一体化的库存管理方案。\n",
      "分享 vivo 互联网技术干货与沙龙活动，推荐最新行业动态与热门会议。\n",
      "posted @ 2023-03-10 15:16  vivo互联网技术  阅读(14)  评论(0)  编辑  收藏  举报\n",
      "var cb_entryId = 17202501, cb_entryCreatedDate = '2023-03-10 15:16', cb_postType = 1, cb_postTitle = 'vivo全球商城：库存系统架构设计与实践'; var allowComments = true, cb_blogId = 498089, cb_blogApp = 'vivotech', cb_blogUserGuid = '144690cc-79e2-4508-aa7f-08d6a1e9eeef'; mermaidRender.render() markdown_highlight() zoomManager.apply(\"#cnblogs_post_body img:not(.code_img_closed):not(.code_img_opened)\"); updatePostStats( [cb_entryId], function(id, count) { $(\"#post_view_count\").text(count) }, function(id, count) { $(\"#post_comment_count\").text(count) })\n",
      "刷新评论刷新页面返回顶部\n",
      "var commentManager = new blogCommentManager(); commentManager.renderComments(0); fixPostBody(); window.footnoteTipManager.generateFootnoteTips(); window.tocManager.displayDisableTocTips = false; window.tocManager.generateToc(); setTimeout(function() { countViews(cb_blogId, cb_entryId); }, 50); deliverT2(); deliverC1C2(); loadNewsAndKb(); LoadPostCategoriesTags(cb_blogId, cb_entryId); LoadPostInfoBlock(cb_blogId, cb_entryId, cb_blogApp, cb_blogUserGuid); GetPrevNextPost(cb_entryId, cb_blogId, cb_entryCreatedDate, cb_postType); loadOptUnderPost(); GetHistoryToday(cb_blogId, cb_blogApp, cb_entryCreatedDate);\n",
      "vivo全球商城：库存系统架构设计与实践\n",
      "本文主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "作者：vivo官网商城开发团队 - Xu Yi、Yan Chao\n",
      "本文是vivo商城系列文章，主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "一、业务背景\n",
      "库存系统是电商商品管理的核心系统，本文主要介绍vivo商城库存中心发展历程、架构设计思路及应对各种业务场景的实践。\n",
      "vivo商城原库存系统耦合在商品系统，考虑到相关业务逻辑复杂度越来越高，库存做了服务拆分，在可售库存管理的基础上新增了实物库存管理、秒杀库存、物流时效 、发货限制、分仓管理等功能，满足了商城库存相关业务需求。\n",
      "本文将介绍vivo商城库存系统架构设计经验以及一些问题的解决方案。\n",
      "二、系统架构设计\n",
      "2.1 vivo大电商库存架构\n",
      "根据vivo大电商的销售渠道与业务场景可以将库存业务架构分为3个层级：仓库层、调度层以及销售层。\n",
      "仓库层对应实体仓库，包括自营仓库、顺丰仓等第三方仓库以及WMS系统、ERP系统等；调度层负责库存调度与订单发货管理；销售层包含多个服务终端，vivo官方商城、vivo门店、第三方电商分销渠道等。其分层结构如图所示：\n",
      "本文探讨的vivo官方商城库存架构设计，从整个vivo大电商库存架构来看，vivo官方商城库存系统涉及销售层内部架构以及销售层与调度层的交互。\n",
      "2.2 商城库存系统架构演变\n",
      "早期商城的库存冗余在各业务系统中，如可售库存在商品系统、活动库存在营销系统等，库存流转也只有扣减与释放，无法针对库存进行整合与业务创新，存在诸多限制：\n",
      "不能进行精细化管理，库存未分层，无法针对实物库存、分仓策略、活动库存进行精细化管理。\n",
      "没有分仓策略，无法提前获取商品收发地址，物流时效无法估算。\n",
      "无法针对地区、商品等进行发货管控。\n",
      "实时性差，无法及时同步实物库存以及分仓策略。\n",
      "性能弱，与其他系统耦合大，不能灵活扩展。\n",
      "基于上述限制与产品期望，21年库存系统完成初版架构设计，此后系统不断迭代完善，形成当前的系统架构：\n",
      "库存系统提供两个核心能力：交易能力和库存管理。上层业务方可以调用提供的API完成库存查询、库存扣减等操作；管理台可以按成分仓策略、库存同步等操作。\n",
      "三、系统业务架构\n",
      "3.1 库存类型&分仓管理\n",
      "3.1.1 库存类型结构\n",
      "库存系统一共包含4类库存：可售库存、实物库存、预占库存、活动库存。\n",
      "可售库存：运营配置的普通商品库存，商品维度到SKU。\n",
      "实物库存：由仓储系统同步到库存系统的实物库存，细化到具体仓库。\n",
      "预占库存：用户下单完成库存预占，仓储系统发货后释放预占库存，预占库存可以监控已下单未发货库存量。\n",
      "活动库存：用于秒杀、抢购等各类营销活动的商品库存。\n",
      "基于不同类型库存，可以构建一个简单的库存分层体系：\n",
      "3.1.2 分仓管理\n",
      "库存中心还维护了仓库信息、分仓策略、仓库实物库存信息等等：\n",
      "仓库信息：仓库基础信息，包括仓库地址、类型、编码等。\n",
      "分仓策略：仓库功能信息，仓库可发货区域、无实物库存后的备选仓库；订单根据收货地址对应优先发货的仓库，争取尽快发货尽早到货。\n",
      "仓库库存：仓库实物库存，由仓库调度系统同步到商城库存系统。\n",
      "3.2 商城库存流转方案\n",
      "商品库存流转涉及两个主要操作：正向库存扣减、逆向库存回退，整套库存变更流程如下：\n",
      "3.2.1 正向库存扣减流程\n",
      "对于库存扣减，目前常见有两种库存扣减方案：\n",
      "（1）下单时扣库存。\n",
      "优点是：实时扣库存，避免付款时因库存不足而阻断影响用户体验。\n",
      "缺点是：库存有限的情况下，恶意下单占库存影响其他正常用户下单。比如说有100台手机，如果没有限制下单数量，这100个库存可能被一个用户恶意占用，导致其他用户无法购买。\n",
      "（2）支付时扣库存。\n",
      "优点是：不受恶意下单影响。\n",
      "缺点是：当支付订单数大于实际库存，会阻断部分用户支付，影响购物体验。比如说只有100台手机，但可能下了1000个订单，但有900个订单在支付时无法购买。\n",
      "从用户体验考虑，我们采用的是下单时扣库存 + 回退这种方案。\n",
      "下单时扣减库存，但只保留一段时间（比如15分钟），保留时间段内未支付则释放库存，避免长时间占用库存。\n",
      "3.2.2 逆向库存回退流程\n",
      "库存回退基于库存变更日志逐个回退。\n",
      "库存回退基本流程：订单出库前用户申请退款，回退可售库存、回退预占库存、软删除扣减日志、增加回退日志；一旦商品出库，用户申请退货走处理机流程，可售库存和实物库存均不回退。\n",
      "3.3 精细化发货管控\n",
      "库存系统还提供了一系列定制辅助功能：分仓策略、发货限制、物流时效等等。\n",
      "（1）分仓策略\n",
      "为了给用户更快的发货，我们采用的是分仓策略，即由最近的仓库（存在优先级）给用户发货；同时存在备选仓库，当所有仓库无实物库存时可走备选仓库。\n",
      "3.3.1 发货限制\n",
      "发货限制分地区限制时间限制。\n",
      "地区限制：根据收货地址批量设置部分区域无法发货等规则，粒度到省市区维度。\n",
      "时间限制：仓库的发货时效管理，包括每天的发货时段、大促发货时段、以及特殊情况下的停发时段。\n",
      "3.3.2 物流时效预估\n",
      "根据用户收货地址，基于分仓策略确定发货地址，再基于发货时效确定发货时间，提升用户体验。\n",
      "四、系统架构技术要点\n",
      "4.1 库存扣减防重\n",
      "订单重复提交会导致库存重复扣减，比如用户误提交、系统超时重试等，针对此类问题有如下常见解决方案：\n",
      "订单提交按钮单击置灰，避免重复提交。注：对于按钮置灰这种方案，可以减少用户误触重复提交的可能性，但不能从根本上解决库存被重复扣减的问题，比如通过脚本来刷扣减库存的接口，依旧造成库存的重复扣减。\n",
      "保证库存扣减接口的幂等性。注：保证接口幂等的方案有很多，比如每次扣减库存时，带上唯一的流水号，利用数据库的唯一索引保证幂等等。\n",
      "采用令牌机制。用户提交订单会进行令牌校验，校验通过才能提交订单。注：这种方案保证每次提交的订单是唯一的，如果用户多次下单，那么会产生多个订单。\n",
      "本系统采用的是保证接口幂等性的方案。\n",
      "在库存扣减接口入参中增加订单序列号作为唯一标识，库存扣减时增加一条扣减日志。当接口重复请求时，会优先校验是否已经存在扣减记录，如果已存在则直接返回，避免重复扣减问题，具体流程如下：\n",
      "4.2 防超卖与高并发扣减方案\n",
      "4.2.1 常规渠道防超卖方案\n",
      "常规下单渠道流量小且对超卖风险厌恶度极高，常用的防超卖方案有：\n",
      "方案一：直接数据库扣减。通过sql判断剩余库存是否大于等于待扣库存，满足则扣减库存。该方案利用乐观锁原理即update的排他性确保事务性，避免超卖。\n",
      "伪代码sql：\n",
      "sql：update store set store = store - #{deductStore } where (store-#{deductStore }) >= 0\n",
      "该方案的优点是：\n",
      "实库实扣，不会出现超卖；\n",
      "数据库乐观锁保证并发扣减一致性；\n",
      "数据库事务保证批量扣减正常回滚。\n",
      "该方案的缺点是：\n",
      "行级锁的原因存在性能瓶颈，高并发会出现请求堵塞超时问题；\n",
      "直连数据库，每次扣库存都是写操作，接口性能较低。\n",
      "方案二：利用分布式锁，强制串行化扣减同一商品库存。\n",
      "该方案的优点是：\n",
      "减轻数据库压力，同时还能确保不会超卖。\n",
      "该方案的缺点是：\n",
      "每次只能有一个请求抢占锁，不能应对高并发场景。\n",
      "对于常规渠道，库存扣减是后置逻辑，流量不高，我们采用的是直接数据库扣减，且针对弊端做了一些措施：\n",
      "前置校验严格，同时针对刷单场景会有严格限流，保证最终扣减库存的流量可控；\n",
      "库存系统读写分离，减少数据库的压力。\n",
      "4.2.2 高并发库存扣减方案\n",
      "针对高并发库存扣减，比如秒杀，一般采用的是缓存扣减库存的方式（redis+lua脚本实现单线程库存更新）作为前置流程，代替数据库直接更新。\n",
      "在redis中扣减库存虽然性能高，可以大大减轻数据库压力，但需要保证缓存数据能完整、正确的入库，以保证最终一致性。\n",
      "针对缓存数据更新至数据库，目前主流方案有两种：\n",
      "方案一：Redis数据直接异步更新至数据库。\n",
      "优点：简单、没有复杂的流程。\n",
      "缺陷：redis宕机或者故障，可能会造成缓存内库存数据的丢失。\n",
      "方案二：Redis扣减库存时，同步在业务数据中insert库存信息。\n",
      "这里大家可能会有两个疑问：\n",
      "有数据库的插入操作，性能怎么保证？\n",
      "有数据库的操作，又有redis的更新，事务性怎么保证？\n",
      "异步更新业务库存在延迟，库存逆向回退如何保证？\n",
      "对于疑问1：由于数据库insert比update性能优，insert是在表的末尾直接插入，没有寻址的过程，可以保证性能比较快。\n",
      "对于疑问2：方案2不同于缓存直接扣减，而是把缓存扣减放在数据库insert的事务内，通过数据库的事务保证整体的事务。\n",
      "insert的表被称为库存任务表，其中保存了库存扣减的信息，库存任务表结构可以设计的非常简单，主键 + 库存信息（json字符串）就可以了。\n",
      "后续通过异步任务，从库存任务表表中查询出库存更新信息，将其同步到具体的库存表中，实现最终一致性，这种方案可以避免数据的丢失。\n",
      "对于疑问3：库存回退是根据业务库中扣减记录进行回退的，由于异步更新业务库必定存在延迟（延迟极低，数秒以内），所以极端场景会存在走退款逆向流程时业务库的库存扣减记录还未更新。\n",
      "针对这种情况库存回退设置延迟重试机制，如果再极端点达到重试阈值依旧没有扣减记录，则返回回退成功，不做阻断。\n",
      "目前我们针对秒杀库存扣减，采用的是方案2。但毕竟涉及数据库的更新，为了避免风险，在前置流量校验上做了限制，保证流量的可控：\n",
      "4.2.3 库存热点问题\n",
      "什么是热点问题？热点问题就是因热点商品导致的redis、数据库等性能瓶颈。在库存系统中，热点问题主要存在：\n",
      "采用直接扣减库存数据库的方式，存在数据库的行锁问题。常规渠道的库存扣减，我们采用的就是的就是这种方式。\n",
      "采用缓存扣减库存的方式，大流量的情况下，热点商品扣减库存操作会打向redis单片，造成单片性能抖动，从而出现redis性能瓶颈。\n",
      "对于第1种热点问题，在vivo商城常见的场景是：新发的爆品手机，在准点售卖时会有抢购效应，容易造成库存数据库单行的瓶颈问题。针对这种热点问题，我们的解决方案是“分而治之”：\n",
      "对于潜在的热点爆款手机，我们会将库存平均分为多行（比如M行），扣减库存时，随机在M行中选取一行库存数据进行扣减。该方案突破了数据库单行锁的瓶颈限制，解决了爆款商品的热点问题。\n",
      "对于第2种redis单片热点问题，解决方案也是分而治之。将数据库中的库存数据同步到redis时，把key值打散，分散在多个redis单片中。注：我们目前线上的流量峰值还达不到会造成redis单片瓶颈的问题，为避免过度设计，只做了前置限流，没有进行key值的打散。\n",
      "4.3 库存同步方案\n",
      "库存系统存在一些库存同步场景：\n",
      "对接仓储系统，完成实物库存同步。\n",
      "兼容历史架构，商品系统库存的可售库存同步等。\n",
      "（1）实物库存同步：\n",
      "实物库存同步，对接的是仓储系统，通过接口来获取商品的实际库存。实物库存同步分成两种：定时全量同步、指定单品更新。\n",
      "定时全量同步：每天定时全量拉取库存调度平台的实物库存进行全量同步。\n",
      "制定单品：运营也可以手动触发单个sku的商品即时同步实物库存。\n",
      "（2）商品系统库存同步：\n",
      "由于库存系统多个场景涉及库存变更，运营手动编辑、用户下单退款导致库存扣减回退，还有商品系统内编辑库存数据也会导致库存变更（以前库存系统未独立，库存数据维护在商品系统）。同时很多业务在查询库存时，参考的依旧是商品系统的库存数据。\n",
      "这里有一个问题：库存系统已经独立出来，为什么还会依赖商品系统的库存数据？\n",
      "这有两点原因：\n",
      "商城多个业务的后台有商品筛选的需要，商品筛选会有库存数量的筛选项。商品数量很多，筛选是分页的，如果将库存数据全部替换成库存系统的，那么存在跨系统分页问题，分页筛选会存在问题；\n",
      "历史遗留问题，很多业务方依赖的是商品系统的库存数据（包括依赖商品库存离线表的业务方），全部切换到库存系统，成本和影响范围大。\n",
      "因此，我们需要保证商品系统和库存系统两边库存数据的一致。\n",
      "库存变更场景多，为了降低业务复杂度、采用简单的方式实现库存同步，我们利用了团队自研的CDC系统（鲁班平台），整体流程如下：\n",
      "库存数据库发生变更后，鲁班平台通过binlog采集获取库存变更日志，再通过自定义规则筛选，然后发送mq变更消息，最后商品系统消费消息完成库存同步变更。\n",
      "五、总结及展望\n",
      "最后对库存系统进行一个总结：\n",
      "库存系统完成服务拆分，在单一的可售库存扣减功能基础上拓展了很多功能，赋能业务的发展。\n",
      "完成库存架构分层，抽象多个库存类型，更灵活地满足当前业务需求。\n",
      "针对库存扣减防重、高并发场景下的库存扣减、库存热点问题、库存同步等技术问题，我们根据业务实际情况设计合理方案。\n",
      "展望\n",
      "目前vivo商城库存系统平台化能力不足，部分能力分散在其他系统中，未来我们希望能为vivo新零售提供一体化的库存管理方案。\n",
      "分享 vivo 互联网技术干货与沙龙活动，推荐最新行业动态与热门会议。\n",
      "posted @ 2023-03-10 15:16  vivo互联网技术  阅读(14)  评论(0)  编辑  收藏  举报\n",
      "vivo全球商城：库存系统架构设计与实践\n",
      "本文主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "作者：vivo官网商城开发团队 - Xu Yi、Yan Chao\n",
      "本文是vivo商城系列文章，主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "一、业务背景\n",
      "库存系统是电商商品管理的核心系统，本文主要介绍vivo商城库存中心发展历程、架构设计思路及应对各种业务场景的实践。\n",
      "vivo商城原库存系统耦合在商品系统，考虑到相关业务逻辑复杂度越来越高，库存做了服务拆分，在可售库存管理的基础上新增了实物库存管理、秒杀库存、物流时效 、发货限制、分仓管理等功能，满足了商城库存相关业务需求。\n",
      "本文将介绍vivo商城库存系统架构设计经验以及一些问题的解决方案。\n",
      "二、系统架构设计\n",
      "2.1 vivo大电商库存架构\n",
      "根据vivo大电商的销售渠道与业务场景可以将库存业务架构分为3个层级：仓库层、调度层以及销售层。\n",
      "仓库层对应实体仓库，包括自营仓库、顺丰仓等第三方仓库以及WMS系统、ERP系统等；调度层负责库存调度与订单发货管理；销售层包含多个服务终端，vivo官方商城、vivo门店、第三方电商分销渠道等。其分层结构如图所示：\n",
      "本文探讨的vivo官方商城库存架构设计，从整个vivo大电商库存架构来看，vivo官方商城库存系统涉及销售层内部架构以及销售层与调度层的交互。\n",
      "2.2 商城库存系统架构演变\n",
      "早期商城的库存冗余在各业务系统中，如可售库存在商品系统、活动库存在营销系统等，库存流转也只有扣减与释放，无法针对库存进行整合与业务创新，存在诸多限制：\n",
      "不能进行精细化管理，库存未分层，无法针对实物库存、分仓策略、活动库存进行精细化管理。\n",
      "没有分仓策略，无法提前获取商品收发地址，物流时效无法估算。\n",
      "无法针对地区、商品等进行发货管控。\n",
      "实时性差，无法及时同步实物库存以及分仓策略。\n",
      "性能弱，与其他系统耦合大，不能灵活扩展。\n",
      "基于上述限制与产品期望，21年库存系统完成初版架构设计，此后系统不断迭代完善，形成当前的系统架构：\n",
      "库存系统提供两个核心能力：交易能力和库存管理。上层业务方可以调用提供的API完成库存查询、库存扣减等操作；管理台可以按成分仓策略、库存同步等操作。\n",
      "三、系统业务架构\n",
      "3.1 库存类型&分仓管理\n",
      "3.1.1 库存类型结构\n",
      "库存系统一共包含4类库存：可售库存、实物库存、预占库存、活动库存。\n",
      "可售库存：运营配置的普通商品库存，商品维度到SKU。\n",
      "实物库存：由仓储系统同步到库存系统的实物库存，细化到具体仓库。\n",
      "预占库存：用户下单完成库存预占，仓储系统发货后释放预占库存，预占库存可以监控已下单未发货库存量。\n",
      "活动库存：用于秒杀、抢购等各类营销活动的商品库存。\n",
      "基于不同类型库存，可以构建一个简单的库存分层体系：\n",
      "3.1.2 分仓管理\n",
      "库存中心还维护了仓库信息、分仓策略、仓库实物库存信息等等：\n",
      "仓库信息：仓库基础信息，包括仓库地址、类型、编码等。\n",
      "分仓策略：仓库功能信息，仓库可发货区域、无实物库存后的备选仓库；订单根据收货地址对应优先发货的仓库，争取尽快发货尽早到货。\n",
      "仓库库存：仓库实物库存，由仓库调度系统同步到商城库存系统。\n",
      "3.2 商城库存流转方案\n",
      "商品库存流转涉及两个主要操作：正向库存扣减、逆向库存回退，整套库存变更流程如下：\n",
      "3.2.1 正向库存扣减流程\n",
      "对于库存扣减，目前常见有两种库存扣减方案：\n",
      "（1）下单时扣库存。\n",
      "优点是：实时扣库存，避免付款时因库存不足而阻断影响用户体验。\n",
      "缺点是：库存有限的情况下，恶意下单占库存影响其他正常用户下单。比如说有100台手机，如果没有限制下单数量，这100个库存可能被一个用户恶意占用，导致其他用户无法购买。\n",
      "（2）支付时扣库存。\n",
      "优点是：不受恶意下单影响。\n",
      "缺点是：当支付订单数大于实际库存，会阻断部分用户支付，影响购物体验。比如说只有100台手机，但可能下了1000个订单，但有900个订单在支付时无法购买。\n",
      "从用户体验考虑，我们采用的是下单时扣库存 + 回退这种方案。\n",
      "下单时扣减库存，但只保留一段时间（比如15分钟），保留时间段内未支付则释放库存，避免长时间占用库存。\n",
      "3.2.2 逆向库存回退流程\n",
      "库存回退基于库存变更日志逐个回退。\n",
      "库存回退基本流程：订单出库前用户申请退款，回退可售库存、回退预占库存、软删除扣减日志、增加回退日志；一旦商品出库，用户申请退货走处理机流程，可售库存和实物库存均不回退。\n",
      "3.3 精细化发货管控\n",
      "库存系统还提供了一系列定制辅助功能：分仓策略、发货限制、物流时效等等。\n",
      "（1）分仓策略\n",
      "为了给用户更快的发货，我们采用的是分仓策略，即由最近的仓库（存在优先级）给用户发货；同时存在备选仓库，当所有仓库无实物库存时可走备选仓库。\n",
      "3.3.1 发货限制\n",
      "发货限制分地区限制时间限制。\n",
      "地区限制：根据收货地址批量设置部分区域无法发货等规则，粒度到省市区维度。\n",
      "时间限制：仓库的发货时效管理，包括每天的发货时段、大促发货时段、以及特殊情况下的停发时段。\n",
      "3.3.2 物流时效预估\n",
      "根据用户收货地址，基于分仓策略确定发货地址，再基于发货时效确定发货时间，提升用户体验。\n",
      "四、系统架构技术要点\n",
      "4.1 库存扣减防重\n",
      "订单重复提交会导致库存重复扣减，比如用户误提交、系统超时重试等，针对此类问题有如下常见解决方案：\n",
      "订单提交按钮单击置灰，避免重复提交。注：对于按钮置灰这种方案，可以减少用户误触重复提交的可能性，但不能从根本上解决库存被重复扣减的问题，比如通过脚本来刷扣减库存的接口，依旧造成库存的重复扣减。\n",
      "保证库存扣减接口的幂等性。注：保证接口幂等的方案有很多，比如每次扣减库存时，带上唯一的流水号，利用数据库的唯一索引保证幂等等。\n",
      "采用令牌机制。用户提交订单会进行令牌校验，校验通过才能提交订单。注：这种方案保证每次提交的订单是唯一的，如果用户多次下单，那么会产生多个订单。\n",
      "本系统采用的是保证接口幂等性的方案。\n",
      "在库存扣减接口入参中增加订单序列号作为唯一标识，库存扣减时增加一条扣减日志。当接口重复请求时，会优先校验是否已经存在扣减记录，如果已存在则直接返回，避免重复扣减问题，具体流程如下：\n",
      "4.2 防超卖与高并发扣减方案\n",
      "4.2.1 常规渠道防超卖方案\n",
      "常规下单渠道流量小且对超卖风险厌恶度极高，常用的防超卖方案有：\n",
      "方案一：直接数据库扣减。通过sql判断剩余库存是否大于等于待扣库存，满足则扣减库存。该方案利用乐观锁原理即update的排他性确保事务性，避免超卖。\n",
      "伪代码sql：\n",
      "sql：update store set store = store - #{deductStore } where (store-#{deductStore }) >= 0\n",
      "该方案的优点是：\n",
      "实库实扣，不会出现超卖；\n",
      "数据库乐观锁保证并发扣减一致性；\n",
      "数据库事务保证批量扣减正常回滚。\n",
      "该方案的缺点是：\n",
      "行级锁的原因存在性能瓶颈，高并发会出现请求堵塞超时问题；\n",
      "直连数据库，每次扣库存都是写操作，接口性能较低。\n",
      "方案二：利用分布式锁，强制串行化扣减同一商品库存。\n",
      "该方案的优点是：\n",
      "减轻数据库压力，同时还能确保不会超卖。\n",
      "该方案的缺点是：\n",
      "每次只能有一个请求抢占锁，不能应对高并发场景。\n",
      "对于常规渠道，库存扣减是后置逻辑，流量不高，我们采用的是直接数据库扣减，且针对弊端做了一些措施：\n",
      "前置校验严格，同时针对刷单场景会有严格限流，保证最终扣减库存的流量可控；\n",
      "库存系统读写分离，减少数据库的压力。\n",
      "4.2.2 高并发库存扣减方案\n",
      "针对高并发库存扣减，比如秒杀，一般采用的是缓存扣减库存的方式（redis+lua脚本实现单线程库存更新）作为前置流程，代替数据库直接更新。\n",
      "在redis中扣减库存虽然性能高，可以大大减轻数据库压力，但需要保证缓存数据能完整、正确的入库，以保证最终一致性。\n",
      "针对缓存数据更新至数据库，目前主流方案有两种：\n",
      "方案一：Redis数据直接异步更新至数据库。\n",
      "优点：简单、没有复杂的流程。\n",
      "缺陷：redis宕机或者故障，可能会造成缓存内库存数据的丢失。\n",
      "方案二：Redis扣减库存时，同步在业务数据中insert库存信息。\n",
      "这里大家可能会有两个疑问：\n",
      "有数据库的插入操作，性能怎么保证？\n",
      "有数据库的操作，又有redis的更新，事务性怎么保证？\n",
      "异步更新业务库存在延迟，库存逆向回退如何保证？\n",
      "对于疑问1：由于数据库insert比update性能优，insert是在表的末尾直接插入，没有寻址的过程，可以保证性能比较快。\n",
      "对于疑问2：方案2不同于缓存直接扣减，而是把缓存扣减放在数据库insert的事务内，通过数据库的事务保证整体的事务。\n",
      "insert的表被称为库存任务表，其中保存了库存扣减的信息，库存任务表结构可以设计的非常简单，主键 + 库存信息（json字符串）就可以了。\n",
      "后续通过异步任务，从库存任务表表中查询出库存更新信息，将其同步到具体的库存表中，实现最终一致性，这种方案可以避免数据的丢失。\n",
      "对于疑问3：库存回退是根据业务库中扣减记录进行回退的，由于异步更新业务库必定存在延迟（延迟极低，数秒以内），所以极端场景会存在走退款逆向流程时业务库的库存扣减记录还未更新。\n",
      "针对这种情况库存回退设置延迟重试机制，如果再极端点达到重试阈值依旧没有扣减记录，则返回回退成功，不做阻断。\n",
      "目前我们针对秒杀库存扣减，采用的是方案2。但毕竟涉及数据库的更新，为了避免风险，在前置流量校验上做了限制，保证流量的可控：\n",
      "4.2.3 库存热点问题\n",
      "什么是热点问题？热点问题就是因热点商品导致的redis、数据库等性能瓶颈。在库存系统中，热点问题主要存在：\n",
      "采用直接扣减库存数据库的方式，存在数据库的行锁问题。常规渠道的库存扣减，我们采用的就是的就是这种方式。\n",
      "采用缓存扣减库存的方式，大流量的情况下，热点商品扣减库存操作会打向redis单片，造成单片性能抖动，从而出现redis性能瓶颈。\n",
      "对于第1种热点问题，在vivo商城常见的场景是：新发的爆品手机，在准点售卖时会有抢购效应，容易造成库存数据库单行的瓶颈问题。针对这种热点问题，我们的解决方案是“分而治之”：\n",
      "对于潜在的热点爆款手机，我们会将库存平均分为多行（比如M行），扣减库存时，随机在M行中选取一行库存数据进行扣减。该方案突破了数据库单行锁的瓶颈限制，解决了爆款商品的热点问题。\n",
      "对于第2种redis单片热点问题，解决方案也是分而治之。将数据库中的库存数据同步到redis时，把key值打散，分散在多个redis单片中。注：我们目前线上的流量峰值还达不到会造成redis单片瓶颈的问题，为避免过度设计，只做了前置限流，没有进行key值的打散。\n",
      "4.3 库存同步方案\n",
      "库存系统存在一些库存同步场景：\n",
      "对接仓储系统，完成实物库存同步。\n",
      "兼容历史架构，商品系统库存的可售库存同步等。\n",
      "（1）实物库存同步：\n",
      "实物库存同步，对接的是仓储系统，通过接口来获取商品的实际库存。实物库存同步分成两种：定时全量同步、指定单品更新。\n",
      "定时全量同步：每天定时全量拉取库存调度平台的实物库存进行全量同步。\n",
      "制定单品：运营也可以手动触发单个sku的商品即时同步实物库存。\n",
      "（2）商品系统库存同步：\n",
      "由于库存系统多个场景涉及库存变更，运营手动编辑、用户下单退款导致库存扣减回退，还有商品系统内编辑库存数据也会导致库存变更（以前库存系统未独立，库存数据维护在商品系统）。同时很多业务在查询库存时，参考的依旧是商品系统的库存数据。\n",
      "这里有一个问题：库存系统已经独立出来，为什么还会依赖商品系统的库存数据？\n",
      "这有两点原因：\n",
      "商城多个业务的后台有商品筛选的需要，商品筛选会有库存数量的筛选项。商品数量很多，筛选是分页的，如果将库存数据全部替换成库存系统的，那么存在跨系统分页问题，分页筛选会存在问题；\n",
      "历史遗留问题，很多业务方依赖的是商品系统的库存数据（包括依赖商品库存离线表的业务方），全部切换到库存系统，成本和影响范围大。\n",
      "因此，我们需要保证商品系统和库存系统两边库存数据的一致。\n",
      "库存变更场景多，为了降低业务复杂度、采用简单的方式实现库存同步，我们利用了团队自研的CDC系统（鲁班平台），整体流程如下：\n",
      "库存数据库发生变更后，鲁班平台通过binlog采集获取库存变更日志，再通过自定义规则筛选，然后发送mq变更消息，最后商品系统消费消息完成库存同步变更。\n",
      "五、总结及展望\n",
      "最后对库存系统进行一个总结：\n",
      "库存系统完成服务拆分，在单一的可售库存扣减功能基础上拓展了很多功能，赋能业务的发展。\n",
      "完成库存架构分层，抽象多个库存类型，更灵活地满足当前业务需求。\n",
      "针对库存扣减防重、高并发场景下的库存扣减、库存热点问题、库存同步等技术问题，我们根据业务实际情况设计合理方案。\n",
      "展望\n",
      "目前vivo商城库存系统平台化能力不足，部分能力分散在其他系统中，未来我们希望能为vivo新零售提供一体化的库存管理方案。\n",
      "分享 vivo 互联网技术干货与沙龙活动，推荐最新行业动态与热门会议。\n",
      "posted @ 2023-03-10 15:16  vivo互联网技术  阅读(14)  评论(0)  编辑  收藏  举报\n",
      "vivo全球商城：库存系统架构设计与实践\n",
      "本文主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "作者：vivo官网商城开发团队 - Xu Yi、Yan Chao\n",
      "本文是vivo商城系列文章，主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "一、业务背景\n",
      "库存系统是电商商品管理的核心系统，本文主要介绍vivo商城库存中心发展历程、架构设计思路及应对各种业务场景的实践。\n",
      "vivo商城原库存系统耦合在商品系统，考虑到相关业务逻辑复杂度越来越高，库存做了服务拆分，在可售库存管理的基础上新增了实物库存管理、秒杀库存、物流时效 、发货限制、分仓管理等功能，满足了商城库存相关业务需求。\n",
      "本文将介绍vivo商城库存系统架构设计经验以及一些问题的解决方案。\n",
      "二、系统架构设计\n",
      "2.1 vivo大电商库存架构\n",
      "根据vivo大电商的销售渠道与业务场景可以将库存业务架构分为3个层级：仓库层、调度层以及销售层。\n",
      "仓库层对应实体仓库，包括自营仓库、顺丰仓等第三方仓库以及WMS系统、ERP系统等；调度层负责库存调度与订单发货管理；销售层包含多个服务终端，vivo官方商城、vivo门店、第三方电商分销渠道等。其分层结构如图所示：\n",
      "本文探讨的vivo官方商城库存架构设计，从整个vivo大电商库存架构来看，vivo官方商城库存系统涉及销售层内部架构以及销售层与调度层的交互。\n",
      "2.2 商城库存系统架构演变\n",
      "早期商城的库存冗余在各业务系统中，如可售库存在商品系统、活动库存在营销系统等，库存流转也只有扣减与释放，无法针对库存进行整合与业务创新，存在诸多限制：\n",
      "不能进行精细化管理，库存未分层，无法针对实物库存、分仓策略、活动库存进行精细化管理。\n",
      "没有分仓策略，无法提前获取商品收发地址，物流时效无法估算。\n",
      "无法针对地区、商品等进行发货管控。\n",
      "实时性差，无法及时同步实物库存以及分仓策略。\n",
      "性能弱，与其他系统耦合大，不能灵活扩展。\n",
      "基于上述限制与产品期望，21年库存系统完成初版架构设计，此后系统不断迭代完善，形成当前的系统架构：\n",
      "库存系统提供两个核心能力：交易能力和库存管理。上层业务方可以调用提供的API完成库存查询、库存扣减等操作；管理台可以按成分仓策略、库存同步等操作。\n",
      "三、系统业务架构\n",
      "3.1 库存类型&分仓管理\n",
      "3.1.1 库存类型结构\n",
      "库存系统一共包含4类库存：可售库存、实物库存、预占库存、活动库存。\n",
      "可售库存：运营配置的普通商品库存，商品维度到SKU。\n",
      "实物库存：由仓储系统同步到库存系统的实物库存，细化到具体仓库。\n",
      "预占库存：用户下单完成库存预占，仓储系统发货后释放预占库存，预占库存可以监控已下单未发货库存量。\n",
      "活动库存：用于秒杀、抢购等各类营销活动的商品库存。\n",
      "基于不同类型库存，可以构建一个简单的库存分层体系：\n",
      "3.1.2 分仓管理\n",
      "库存中心还维护了仓库信息、分仓策略、仓库实物库存信息等等：\n",
      "仓库信息：仓库基础信息，包括仓库地址、类型、编码等。\n",
      "分仓策略：仓库功能信息，仓库可发货区域、无实物库存后的备选仓库；订单根据收货地址对应优先发货的仓库，争取尽快发货尽早到货。\n",
      "仓库库存：仓库实物库存，由仓库调度系统同步到商城库存系统。\n",
      "3.2 商城库存流转方案\n",
      "商品库存流转涉及两个主要操作：正向库存扣减、逆向库存回退，整套库存变更流程如下：\n",
      "3.2.1 正向库存扣减流程\n",
      "对于库存扣减，目前常见有两种库存扣减方案：\n",
      "（1）下单时扣库存。\n",
      "优点是：实时扣库存，避免付款时因库存不足而阻断影响用户体验。\n",
      "缺点是：库存有限的情况下，恶意下单占库存影响其他正常用户下单。比如说有100台手机，如果没有限制下单数量，这100个库存可能被一个用户恶意占用，导致其他用户无法购买。\n",
      "（2）支付时扣库存。\n",
      "优点是：不受恶意下单影响。\n",
      "缺点是：当支付订单数大于实际库存，会阻断部分用户支付，影响购物体验。比如说只有100台手机，但可能下了1000个订单，但有900个订单在支付时无法购买。\n",
      "从用户体验考虑，我们采用的是下单时扣库存 + 回退这种方案。\n",
      "下单时扣减库存，但只保留一段时间（比如15分钟），保留时间段内未支付则释放库存，避免长时间占用库存。\n",
      "3.2.2 逆向库存回退流程\n",
      "库存回退基于库存变更日志逐个回退。\n",
      "库存回退基本流程：订单出库前用户申请退款，回退可售库存、回退预占库存、软删除扣减日志、增加回退日志；一旦商品出库，用户申请退货走处理机流程，可售库存和实物库存均不回退。\n",
      "3.3 精细化发货管控\n",
      "库存系统还提供了一系列定制辅助功能：分仓策略、发货限制、物流时效等等。\n",
      "（1）分仓策略\n",
      "为了给用户更快的发货，我们采用的是分仓策略，即由最近的仓库（存在优先级）给用户发货；同时存在备选仓库，当所有仓库无实物库存时可走备选仓库。\n",
      "3.3.1 发货限制\n",
      "发货限制分地区限制时间限制。\n",
      "地区限制：根据收货地址批量设置部分区域无法发货等规则，粒度到省市区维度。\n",
      "时间限制：仓库的发货时效管理，包括每天的发货时段、大促发货时段、以及特殊情况下的停发时段。\n",
      "3.3.2 物流时效预估\n",
      "根据用户收货地址，基于分仓策略确定发货地址，再基于发货时效确定发货时间，提升用户体验。\n",
      "四、系统架构技术要点\n",
      "4.1 库存扣减防重\n",
      "订单重复提交会导致库存重复扣减，比如用户误提交、系统超时重试等，针对此类问题有如下常见解决方案：\n",
      "订单提交按钮单击置灰，避免重复提交。注：对于按钮置灰这种方案，可以减少用户误触重复提交的可能性，但不能从根本上解决库存被重复扣减的问题，比如通过脚本来刷扣减库存的接口，依旧造成库存的重复扣减。\n",
      "保证库存扣减接口的幂等性。注：保证接口幂等的方案有很多，比如每次扣减库存时，带上唯一的流水号，利用数据库的唯一索引保证幂等等。\n",
      "采用令牌机制。用户提交订单会进行令牌校验，校验通过才能提交订单。注：这种方案保证每次提交的订单是唯一的，如果用户多次下单，那么会产生多个订单。\n",
      "本系统采用的是保证接口幂等性的方案。\n",
      "在库存扣减接口入参中增加订单序列号作为唯一标识，库存扣减时增加一条扣减日志。当接口重复请求时，会优先校验是否已经存在扣减记录，如果已存在则直接返回，避免重复扣减问题，具体流程如下：\n",
      "4.2 防超卖与高并发扣减方案\n",
      "4.2.1 常规渠道防超卖方案\n",
      "常规下单渠道流量小且对超卖风险厌恶度极高，常用的防超卖方案有：\n",
      "方案一：直接数据库扣减。通过sql判断剩余库存是否大于等于待扣库存，满足则扣减库存。该方案利用乐观锁原理即update的排他性确保事务性，避免超卖。\n",
      "伪代码sql：\n",
      "sql：update store set store = store - #{deductStore } where (store-#{deductStore }) >= 0\n",
      "该方案的优点是：\n",
      "实库实扣，不会出现超卖；\n",
      "数据库乐观锁保证并发扣减一致性；\n",
      "数据库事务保证批量扣减正常回滚。\n",
      "该方案的缺点是：\n",
      "行级锁的原因存在性能瓶颈，高并发会出现请求堵塞超时问题；\n",
      "直连数据库，每次扣库存都是写操作，接口性能较低。\n",
      "方案二：利用分布式锁，强制串行化扣减同一商品库存。\n",
      "该方案的优点是：\n",
      "减轻数据库压力，同时还能确保不会超卖。\n",
      "该方案的缺点是：\n",
      "每次只能有一个请求抢占锁，不能应对高并发场景。\n",
      "对于常规渠道，库存扣减是后置逻辑，流量不高，我们采用的是直接数据库扣减，且针对弊端做了一些措施：\n",
      "前置校验严格，同时针对刷单场景会有严格限流，保证最终扣减库存的流量可控；\n",
      "库存系统读写分离，减少数据库的压力。\n",
      "4.2.2 高并发库存扣减方案\n",
      "针对高并发库存扣减，比如秒杀，一般采用的是缓存扣减库存的方式（redis+lua脚本实现单线程库存更新）作为前置流程，代替数据库直接更新。\n",
      "在redis中扣减库存虽然性能高，可以大大减轻数据库压力，但需要保证缓存数据能完整、正确的入库，以保证最终一致性。\n",
      "针对缓存数据更新至数据库，目前主流方案有两种：\n",
      "方案一：Redis数据直接异步更新至数据库。\n",
      "优点：简单、没有复杂的流程。\n",
      "缺陷：redis宕机或者故障，可能会造成缓存内库存数据的丢失。\n",
      "方案二：Redis扣减库存时，同步在业务数据中insert库存信息。\n",
      "这里大家可能会有两个疑问：\n",
      "有数据库的插入操作，性能怎么保证？\n",
      "有数据库的操作，又有redis的更新，事务性怎么保证？\n",
      "异步更新业务库存在延迟，库存逆向回退如何保证？\n",
      "对于疑问1：由于数据库insert比update性能优，insert是在表的末尾直接插入，没有寻址的过程，可以保证性能比较快。\n",
      "对于疑问2：方案2不同于缓存直接扣减，而是把缓存扣减放在数据库insert的事务内，通过数据库的事务保证整体的事务。\n",
      "insert的表被称为库存任务表，其中保存了库存扣减的信息，库存任务表结构可以设计的非常简单，主键 + 库存信息（json字符串）就可以了。\n",
      "后续通过异步任务，从库存任务表表中查询出库存更新信息，将其同步到具体的库存表中，实现最终一致性，这种方案可以避免数据的丢失。\n",
      "对于疑问3：库存回退是根据业务库中扣减记录进行回退的，由于异步更新业务库必定存在延迟（延迟极低，数秒以内），所以极端场景会存在走退款逆向流程时业务库的库存扣减记录还未更新。\n",
      "针对这种情况库存回退设置延迟重试机制，如果再极端点达到重试阈值依旧没有扣减记录，则返回回退成功，不做阻断。\n",
      "目前我们针对秒杀库存扣减，采用的是方案2。但毕竟涉及数据库的更新，为了避免风险，在前置流量校验上做了限制，保证流量的可控：\n",
      "4.2.3 库存热点问题\n",
      "什么是热点问题？热点问题就是因热点商品导致的redis、数据库等性能瓶颈。在库存系统中，热点问题主要存在：\n",
      "采用直接扣减库存数据库的方式，存在数据库的行锁问题。常规渠道的库存扣减，我们采用的就是的就是这种方式。\n",
      "采用缓存扣减库存的方式，大流量的情况下，热点商品扣减库存操作会打向redis单片，造成单片性能抖动，从而出现redis性能瓶颈。\n",
      "对于第1种热点问题，在vivo商城常见的场景是：新发的爆品手机，在准点售卖时会有抢购效应，容易造成库存数据库单行的瓶颈问题。针对这种热点问题，我们的解决方案是“分而治之”：\n",
      "对于潜在的热点爆款手机，我们会将库存平均分为多行（比如M行），扣减库存时，随机在M行中选取一行库存数据进行扣减。该方案突破了数据库单行锁的瓶颈限制，解决了爆款商品的热点问题。\n",
      "对于第2种redis单片热点问题，解决方案也是分而治之。将数据库中的库存数据同步到redis时，把key值打散，分散在多个redis单片中。注：我们目前线上的流量峰值还达不到会造成redis单片瓶颈的问题，为避免过度设计，只做了前置限流，没有进行key值的打散。\n",
      "4.3 库存同步方案\n",
      "库存系统存在一些库存同步场景：\n",
      "对接仓储系统，完成实物库存同步。\n",
      "兼容历史架构，商品系统库存的可售库存同步等。\n",
      "（1）实物库存同步：\n",
      "实物库存同步，对接的是仓储系统，通过接口来获取商品的实际库存。实物库存同步分成两种：定时全量同步、指定单品更新。\n",
      "定时全量同步：每天定时全量拉取库存调度平台的实物库存进行全量同步。\n",
      "制定单品：运营也可以手动触发单个sku的商品即时同步实物库存。\n",
      "（2）商品系统库存同步：\n",
      "由于库存系统多个场景涉及库存变更，运营手动编辑、用户下单退款导致库存扣减回退，还有商品系统内编辑库存数据也会导致库存变更（以前库存系统未独立，库存数据维护在商品系统）。同时很多业务在查询库存时，参考的依旧是商品系统的库存数据。\n",
      "这里有一个问题：库存系统已经独立出来，为什么还会依赖商品系统的库存数据？\n",
      "这有两点原因：\n",
      "商城多个业务的后台有商品筛选的需要，商品筛选会有库存数量的筛选项。商品数量很多，筛选是分页的，如果将库存数据全部替换成库存系统的，那么存在跨系统分页问题，分页筛选会存在问题；\n",
      "历史遗留问题，很多业务方依赖的是商品系统的库存数据（包括依赖商品库存离线表的业务方），全部切换到库存系统，成本和影响范围大。\n",
      "因此，我们需要保证商品系统和库存系统两边库存数据的一致。\n",
      "库存变更场景多，为了降低业务复杂度、采用简单的方式实现库存同步，我们利用了团队自研的CDC系统（鲁班平台），整体流程如下：\n",
      "库存数据库发生变更后，鲁班平台通过binlog采集获取库存变更日志，再通过自定义规则筛选，然后发送mq变更消息，最后商品系统消费消息完成库存同步变更。\n",
      "五、总结及展望\n",
      "最后对库存系统进行一个总结：\n",
      "库存系统完成服务拆分，在单一的可售库存扣减功能基础上拓展了很多功能，赋能业务的发展。\n",
      "完成库存架构分层，抽象多个库存类型，更灵活地满足当前业务需求。\n",
      "针对库存扣减防重、高并发场景下的库存扣减、库存热点问题、库存同步等技术问题，我们根据业务实际情况设计合理方案。\n",
      "展望\n",
      "目前vivo商城库存系统平台化能力不足，部分能力分散在其他系统中，未来我们希望能为vivo新零售提供一体化的库存管理方案。\n",
      "分享 vivo 互联网技术干货与沙龙活动，推荐最新行业动态与热门会议。\n",
      "posted @ 2023-03-10 15:16  vivo互联网技术  阅读(14)  评论(0)  编辑  收藏  举报\n",
      "\n",
      "本文主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "作者：vivo官网商城开发团队 - Xu Yi、Yan Chao\n",
      "本文是vivo商城系列文章，主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "一、业务背景\n",
      "库存系统是电商商品管理的核心系统，本文主要介绍vivo商城库存中心发展历程、架构设计思路及应对各种业务场景的实践。\n",
      "vivo商城原库存系统耦合在商品系统，考虑到相关业务逻辑复杂度越来越高，库存做了服务拆分，在可售库存管理的基础上新增了实物库存管理、秒杀库存、物流时效 、发货限制、分仓管理等功能，满足了商城库存相关业务需求。\n",
      "本文将介绍vivo商城库存系统架构设计经验以及一些问题的解决方案。\n",
      "二、系统架构设计\n",
      "2.1 vivo大电商库存架构\n",
      "根据vivo大电商的销售渠道与业务场景可以将库存业务架构分为3个层级：仓库层、调度层以及销售层。\n",
      "仓库层对应实体仓库，包括自营仓库、顺丰仓等第三方仓库以及WMS系统、ERP系统等；调度层负责库存调度与订单发货管理；销售层包含多个服务终端，vivo官方商城、vivo门店、第三方电商分销渠道等。其分层结构如图所示：\n",
      "本文探讨的vivo官方商城库存架构设计，从整个vivo大电商库存架构来看，vivo官方商城库存系统涉及销售层内部架构以及销售层与调度层的交互。\n",
      "2.2 商城库存系统架构演变\n",
      "早期商城的库存冗余在各业务系统中，如可售库存在商品系统、活动库存在营销系统等，库存流转也只有扣减与释放，无法针对库存进行整合与业务创新，存在诸多限制：\n",
      "不能进行精细化管理，库存未分层，无法针对实物库存、分仓策略、活动库存进行精细化管理。\n",
      "没有分仓策略，无法提前获取商品收发地址，物流时效无法估算。\n",
      "无法针对地区、商品等进行发货管控。\n",
      "实时性差，无法及时同步实物库存以及分仓策略。\n",
      "性能弱，与其他系统耦合大，不能灵活扩展。\n",
      "基于上述限制与产品期望，21年库存系统完成初版架构设计，此后系统不断迭代完善，形成当前的系统架构：\n",
      "库存系统提供两个核心能力：交易能力和库存管理。上层业务方可以调用提供的API完成库存查询、库存扣减等操作；管理台可以按成分仓策略、库存同步等操作。\n",
      "三、系统业务架构\n",
      "3.1 库存类型&分仓管理\n",
      "3.1.1 库存类型结构\n",
      "库存系统一共包含4类库存：可售库存、实物库存、预占库存、活动库存。\n",
      "可售库存：运营配置的普通商品库存，商品维度到SKU。\n",
      "实物库存：由仓储系统同步到库存系统的实物库存，细化到具体仓库。\n",
      "预占库存：用户下单完成库存预占，仓储系统发货后释放预占库存，预占库存可以监控已下单未发货库存量。\n",
      "活动库存：用于秒杀、抢购等各类营销活动的商品库存。\n",
      "基于不同类型库存，可以构建一个简单的库存分层体系：\n",
      "3.1.2 分仓管理\n",
      "库存中心还维护了仓库信息、分仓策略、仓库实物库存信息等等：\n",
      "仓库信息：仓库基础信息，包括仓库地址、类型、编码等。\n",
      "分仓策略：仓库功能信息，仓库可发货区域、无实物库存后的备选仓库；订单根据收货地址对应优先发货的仓库，争取尽快发货尽早到货。\n",
      "仓库库存：仓库实物库存，由仓库调度系统同步到商城库存系统。\n",
      "3.2 商城库存流转方案\n",
      "商品库存流转涉及两个主要操作：正向库存扣减、逆向库存回退，整套库存变更流程如下：\n",
      "3.2.1 正向库存扣减流程\n",
      "对于库存扣减，目前常见有两种库存扣减方案：\n",
      "（1）下单时扣库存。\n",
      "优点是：实时扣库存，避免付款时因库存不足而阻断影响用户体验。\n",
      "缺点是：库存有限的情况下，恶意下单占库存影响其他正常用户下单。比如说有100台手机，如果没有限制下单数量，这100个库存可能被一个用户恶意占用，导致其他用户无法购买。\n",
      "（2）支付时扣库存。\n",
      "优点是：不受恶意下单影响。\n",
      "缺点是：当支付订单数大于实际库存，会阻断部分用户支付，影响购物体验。比如说只有100台手机，但可能下了1000个订单，但有900个订单在支付时无法购买。\n",
      "从用户体验考虑，我们采用的是下单时扣库存 + 回退这种方案。\n",
      "下单时扣减库存，但只保留一段时间（比如15分钟），保留时间段内未支付则释放库存，避免长时间占用库存。\n",
      "3.2.2 逆向库存回退流程\n",
      "库存回退基于库存变更日志逐个回退。\n",
      "库存回退基本流程：订单出库前用户申请退款，回退可售库存、回退预占库存、软删除扣减日志、增加回退日志；一旦商品出库，用户申请退货走处理机流程，可售库存和实物库存均不回退。\n",
      "3.3 精细化发货管控\n",
      "库存系统还提供了一系列定制辅助功能：分仓策略、发货限制、物流时效等等。\n",
      "（1）分仓策略\n",
      "为了给用户更快的发货，我们采用的是分仓策略，即由最近的仓库（存在优先级）给用户发货；同时存在备选仓库，当所有仓库无实物库存时可走备选仓库。\n",
      "3.3.1 发货限制\n",
      "发货限制分地区限制时间限制。\n",
      "地区限制：根据收货地址批量设置部分区域无法发货等规则，粒度到省市区维度。\n",
      "时间限制：仓库的发货时效管理，包括每天的发货时段、大促发货时段、以及特殊情况下的停发时段。\n",
      "3.3.2 物流时效预估\n",
      "根据用户收货地址，基于分仓策略确定发货地址，再基于发货时效确定发货时间，提升用户体验。\n",
      "四、系统架构技术要点\n",
      "4.1 库存扣减防重\n",
      "订单重复提交会导致库存重复扣减，比如用户误提交、系统超时重试等，针对此类问题有如下常见解决方案：\n",
      "订单提交按钮单击置灰，避免重复提交。注：对于按钮置灰这种方案，可以减少用户误触重复提交的可能性，但不能从根本上解决库存被重复扣减的问题，比如通过脚本来刷扣减库存的接口，依旧造成库存的重复扣减。\n",
      "保证库存扣减接口的幂等性。注：保证接口幂等的方案有很多，比如每次扣减库存时，带上唯一的流水号，利用数据库的唯一索引保证幂等等。\n",
      "采用令牌机制。用户提交订单会进行令牌校验，校验通过才能提交订单。注：这种方案保证每次提交的订单是唯一的，如果用户多次下单，那么会产生多个订单。\n",
      "本系统采用的是保证接口幂等性的方案。\n",
      "在库存扣减接口入参中增加订单序列号作为唯一标识，库存扣减时增加一条扣减日志。当接口重复请求时，会优先校验是否已经存在扣减记录，如果已存在则直接返回，避免重复扣减问题，具体流程如下：\n",
      "4.2 防超卖与高并发扣减方案\n",
      "4.2.1 常规渠道防超卖方案\n",
      "常规下单渠道流量小且对超卖风险厌恶度极高，常用的防超卖方案有：\n",
      "方案一：直接数据库扣减。通过sql判断剩余库存是否大于等于待扣库存，满足则扣减库存。该方案利用乐观锁原理即update的排他性确保事务性，避免超卖。\n",
      "伪代码sql：\n",
      "sql：update store set store = store - #{deductStore } where (store-#{deductStore }) >= 0\n",
      "该方案的优点是：\n",
      "实库实扣，不会出现超卖；\n",
      "数据库乐观锁保证并发扣减一致性；\n",
      "数据库事务保证批量扣减正常回滚。\n",
      "该方案的缺点是：\n",
      "行级锁的原因存在性能瓶颈，高并发会出现请求堵塞超时问题；\n",
      "直连数据库，每次扣库存都是写操作，接口性能较低。\n",
      "方案二：利用分布式锁，强制串行化扣减同一商品库存。\n",
      "该方案的优点是：\n",
      "减轻数据库压力，同时还能确保不会超卖。\n",
      "该方案的缺点是：\n",
      "每次只能有一个请求抢占锁，不能应对高并发场景。\n",
      "对于常规渠道，库存扣减是后置逻辑，流量不高，我们采用的是直接数据库扣减，且针对弊端做了一些措施：\n",
      "前置校验严格，同时针对刷单场景会有严格限流，保证最终扣减库存的流量可控；\n",
      "库存系统读写分离，减少数据库的压力。\n",
      "4.2.2 高并发库存扣减方案\n",
      "针对高并发库存扣减，比如秒杀，一般采用的是缓存扣减库存的方式（redis+lua脚本实现单线程库存更新）作为前置流程，代替数据库直接更新。\n",
      "在redis中扣减库存虽然性能高，可以大大减轻数据库压力，但需要保证缓存数据能完整、正确的入库，以保证最终一致性。\n",
      "针对缓存数据更新至数据库，目前主流方案有两种：\n",
      "方案一：Redis数据直接异步更新至数据库。\n",
      "优点：简单、没有复杂的流程。\n",
      "缺陷：redis宕机或者故障，可能会造成缓存内库存数据的丢失。\n",
      "方案二：Redis扣减库存时，同步在业务数据中insert库存信息。\n",
      "这里大家可能会有两个疑问：\n",
      "有数据库的插入操作，性能怎么保证？\n",
      "有数据库的操作，又有redis的更新，事务性怎么保证？\n",
      "异步更新业务库存在延迟，库存逆向回退如何保证？\n",
      "对于疑问1：由于数据库insert比update性能优，insert是在表的末尾直接插入，没有寻址的过程，可以保证性能比较快。\n",
      "对于疑问2：方案2不同于缓存直接扣减，而是把缓存扣减放在数据库insert的事务内，通过数据库的事务保证整体的事务。\n",
      "insert的表被称为库存任务表，其中保存了库存扣减的信息，库存任务表结构可以设计的非常简单，主键 + 库存信息（json字符串）就可以了。\n",
      "后续通过异步任务，从库存任务表表中查询出库存更新信息，将其同步到具体的库存表中，实现最终一致性，这种方案可以避免数据的丢失。\n",
      "对于疑问3：库存回退是根据业务库中扣减记录进行回退的，由于异步更新业务库必定存在延迟（延迟极低，数秒以内），所以极端场景会存在走退款逆向流程时业务库的库存扣减记录还未更新。\n",
      "针对这种情况库存回退设置延迟重试机制，如果再极端点达到重试阈值依旧没有扣减记录，则返回回退成功，不做阻断。\n",
      "目前我们针对秒杀库存扣减，采用的是方案2。但毕竟涉及数据库的更新，为了避免风险，在前置流量校验上做了限制，保证流量的可控：\n",
      "4.2.3 库存热点问题\n",
      "什么是热点问题？热点问题就是因热点商品导致的redis、数据库等性能瓶颈。在库存系统中，热点问题主要存在：\n",
      "采用直接扣减库存数据库的方式，存在数据库的行锁问题。常规渠道的库存扣减，我们采用的就是的就是这种方式。\n",
      "采用缓存扣减库存的方式，大流量的情况下，热点商品扣减库存操作会打向redis单片，造成单片性能抖动，从而出现redis性能瓶颈。\n",
      "对于第1种热点问题，在vivo商城常见的场景是：新发的爆品手机，在准点售卖时会有抢购效应，容易造成库存数据库单行的瓶颈问题。针对这种热点问题，我们的解决方案是“分而治之”：\n",
      "对于潜在的热点爆款手机，我们会将库存平均分为多行（比如M行），扣减库存时，随机在M行中选取一行库存数据进行扣减。该方案突破了数据库单行锁的瓶颈限制，解决了爆款商品的热点问题。\n",
      "对于第2种redis单片热点问题，解决方案也是分而治之。将数据库中的库存数据同步到redis时，把key值打散，分散在多个redis单片中。注：我们目前线上的流量峰值还达不到会造成redis单片瓶颈的问题，为避免过度设计，只做了前置限流，没有进行key值的打散。\n",
      "4.3 库存同步方案\n",
      "库存系统存在一些库存同步场景：\n",
      "对接仓储系统，完成实物库存同步。\n",
      "兼容历史架构，商品系统库存的可售库存同步等。\n",
      "（1）实物库存同步：\n",
      "实物库存同步，对接的是仓储系统，通过接口来获取商品的实际库存。实物库存同步分成两种：定时全量同步、指定单品更新。\n",
      "定时全量同步：每天定时全量拉取库存调度平台的实物库存进行全量同步。\n",
      "制定单品：运营也可以手动触发单个sku的商品即时同步实物库存。\n",
      "（2）商品系统库存同步：\n",
      "由于库存系统多个场景涉及库存变更，运营手动编辑、用户下单退款导致库存扣减回退，还有商品系统内编辑库存数据也会导致库存变更（以前库存系统未独立，库存数据维护在商品系统）。同时很多业务在查询库存时，参考的依旧是商品系统的库存数据。\n",
      "这里有一个问题：库存系统已经独立出来，为什么还会依赖商品系统的库存数据？\n",
      "这有两点原因：\n",
      "商城多个业务的后台有商品筛选的需要，商品筛选会有库存数量的筛选项。商品数量很多，筛选是分页的，如果将库存数据全部替换成库存系统的，那么存在跨系统分页问题，分页筛选会存在问题；\n",
      "历史遗留问题，很多业务方依赖的是商品系统的库存数据（包括依赖商品库存离线表的业务方），全部切换到库存系统，成本和影响范围大。\n",
      "因此，我们需要保证商品系统和库存系统两边库存数据的一致。\n",
      "库存变更场景多，为了降低业务复杂度、采用简单的方式实现库存同步，我们利用了团队自研的CDC系统（鲁班平台），整体流程如下：\n",
      "库存数据库发生变更后，鲁班平台通过binlog采集获取库存变更日志，再通过自定义规则筛选，然后发送mq变更消息，最后商品系统消费消息完成库存同步变更。\n",
      "五、总结及展望\n",
      "最后对库存系统进行一个总结：\n",
      "库存系统完成服务拆分，在单一的可售库存扣减功能基础上拓展了很多功能，赋能业务的发展。\n",
      "完成库存架构分层，抽象多个库存类型，更灵活地满足当前业务需求。\n",
      "针对库存扣减防重、高并发场景下的库存扣减、库存热点问题、库存同步等技术问题，我们根据业务实际情况设计合理方案。\n",
      "展望\n",
      "目前vivo商城库存系统平台化能力不足，部分能力分散在其他系统中，未来我们希望能为vivo新零售提供一体化的库存管理方案。\n",
      "分享 vivo 互联网技术干货与沙龙活动，推荐最新行业动态与热门会议。\n",
      "本文主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "作者：vivo官网商城开发团队 - Xu Yi、Yan Chao\n",
      "本文是vivo商城系列文章，主要介绍vivo商城库存系统发展历程、架构设计思路以及应对业务场景的实践。\n",
      "一、业务背景\n",
      "库存系统是电商商品管理的核心系统，本文主要介绍vivo商城库存中心发展历程、架构设计思路及应对各种业务场景的实践。\n",
      "vivo商城原库存系统耦合在商品系统，考虑到相关业务逻辑复杂度越来越高，库存做了服务拆分，在可售库存管理的基础上新增了实物库存管理、秒杀库存、物流时效 、发货限制、分仓管理等功能，满足了商城库存相关业务需求。\n",
      "本文将介绍vivo商城库存系统架构设计经验以及一些问题的解决方案。\n",
      "二、系统架构设计\n",
      "2.1 vivo大电商库存架构\n",
      "根据vivo大电商的销售渠道与业务场景可以将库存业务架构分为3个层级：仓库层、调度层以及销售层。\n",
      "仓库层对应实体仓库，包括自营仓库、顺丰仓等第三方仓库以及WMS系统、ERP系统等；调度层负责库存调度与订单发货管理；销售层包含多个服务终端，vivo官方商城、vivo门店、第三方电商分销渠道等。其分层结构如图所示：\n",
      "本文探讨的vivo官方商城库存架构设计，从整个vivo大电商库存架构来看，vivo官方商城库存系统涉及销售层内部架构以及销售层与调度层的交互。\n",
      "2.2 商城库存系统架构演变\n",
      "早期商城的库存冗余在各业务系统中，如可售库存在商品系统、活动库存在营销系统等，库存流转也只有扣减与释放，无法针对库存进行整合与业务创新，存在诸多限制：\n",
      "不能进行精细化管理，库存未分层，无法针对实物库存、分仓策略、活动库存进行精细化管理。\n",
      "没有分仓策略，无法提前获取商品收发地址，物流时效无法估算。\n",
      "无法针对地区、商品等进行发货管控。\n",
      "实时性差，无法及时同步实物库存以及分仓策略。\n",
      "性能弱，与其他系统耦合大，不能灵活扩展。\n",
      "基于上述限制与产品期望，21年库存系统完成初版架构设计，此后系统不断迭代完善，形成当前的系统架构：\n",
      "库存系统提供两个核心能力：交易能力和库存管理。上层业务方可以调用提供的API完成库存查询、库存扣减等操作；管理台可以按成分仓策略、库存同步等操作。\n",
      "三、系统业务架构\n",
      "3.1 库存类型&分仓管理\n",
      "3.1.1 库存类型结构\n",
      "库存系统一共包含4类库存：可售库存、实物库存、预占库存、活动库存。\n",
      "可售库存：运营配置的普通商品库存，商品维度到SKU。\n",
      "实物库存：由仓储系统同步到库存系统的实物库存，细化到具体仓库。\n",
      "预占库存：用户下单完成库存预占，仓储系统发货后释放预占库存，预占库存可以监控已下单未发货库存量。\n",
      "活动库存：用于秒杀、抢购等各类营销活动的商品库存。\n",
      "基于不同类型库存，可以构建一个简单的库存分层体系：\n",
      "3.1.2 分仓管理\n",
      "库存中心还维护了仓库信息、分仓策略、仓库实物库存信息等等：\n",
      "仓库信息：仓库基础信息，包括仓库地址、类型、编码等。\n",
      "分仓策略：仓库功能信息，仓库可发货区域、无实物库存后的备选仓库；订单根据收货地址对应优先发货的仓库，争取尽快发货尽早到货。\n",
      "仓库库存：仓库实物库存，由仓库调度系统同步到商城库存系统。\n",
      "3.2 商城库存流转方案\n",
      "商品库存流转涉及两个主要操作：正向库存扣减、逆向库存回退，整套库存变更流程如下：\n",
      "3.2.1 正向库存扣减流程\n",
      "对于库存扣减，目前常见有两种库存扣减方案：\n",
      "（1）下单时扣库存。\n",
      "优点是：实时扣库存，避免付款时因库存不足而阻断影响用户体验。\n",
      "缺点是：库存有限的情况下，恶意下单占库存影响其他正常用户下单。比如说有100台手机，如果没有限制下单数量，这100个库存可能被一个用户恶意占用，导致其他用户无法购买。\n",
      "（2）支付时扣库存。\n",
      "优点是：不受恶意下单影响。\n",
      "缺点是：当支付订单数大于实际库存，会阻断部分用户支付，影响购物体验。比如说只有100台手机，但可能下了1000个订单，但有900个订单在支付时无法购买。\n",
      "从用户体验考虑，我们采用的是下单时扣库存 + 回退这种方案。\n",
      "下单时扣减库存，但只保留一段时间（比如15分钟），保留时间段内未支付则释放库存，避免长时间占用库存。\n",
      "3.2.2 逆向库存回退流程\n",
      "库存回退基于库存变更日志逐个回退。\n",
      "库存回退基本流程：订单出库前用户申请退款，回退可售库存、回退预占库存、软删除扣减日志、增加回退日志；一旦商品出库，用户申请退货走处理机流程，可售库存和实物库存均不回退。\n",
      "3.3 精细化发货管控\n",
      "库存系统还提供了一系列定制辅助功能：分仓策略、发货限制、物流时效等等。\n",
      "（1）分仓策略\n",
      "为了给用户更快的发货，我们采用的是分仓策略，即由最近的仓库（存在优先级）给用户发货；同时存在备选仓库，当所有仓库无实物库存时可走备选仓库。\n",
      "3.3.1 发货限制\n",
      "发货限制分地区限制时间限制。\n",
      "地区限制：根据收货地址批量设置部分区域无法发货等规则，粒度到省市区维度。\n",
      "时间限制：仓库的发货时效管理，包括每天的发货时段、大促发货时段、以及特殊情况下的停发时段。\n",
      "3.3.2 物流时效预估\n",
      "根据用户收货地址，基于分仓策略确定发货地址，再基于发货时效确定发货时间，提升用户体验。\n",
      "四、系统架构技术要点\n",
      "4.1 库存扣减防重\n",
      "订单重复提交会导致库存重复扣减，比如用户误提交、系统超时重试等，针对此类问题有如下常见解决方案：\n",
      "订单提交按钮单击置灰，避免重复提交。注：对于按钮置灰这种方案，可以减少用户误触重复提交的可能性，但不能从根本上解决库存被重复扣减的问题，比如通过脚本来刷扣减库存的接口，依旧造成库存的重复扣减。\n",
      "保证库存扣减接口的幂等性。注：保证接口幂等的方案有很多，比如每次扣减库存时，带上唯一的流水号，利用数据库的唯一索引保证幂等等。\n",
      "采用令牌机制。用户提交订单会进行令牌校验，校验通过才能提交订单。注：这种方案保证每次提交的订单是唯一的，如果用户多次下单，那么会产生多个订单。\n",
      "本系统采用的是保证接口幂等性的方案。\n",
      "在库存扣减接口入参中增加订单序列号作为唯一标识，库存扣减时增加一条扣减日志。当接口重复请求时，会优先校验是否已经存在扣减记录，如果已存在则直接返回，避免重复扣减问题，具体流程如下：\n",
      "4.2 防超卖与高并发扣减方案\n",
      "4.2.1 常规渠道防超卖方案\n",
      "常规下单渠道流量小且对超卖风险厌恶度极高，常用的防超卖方案有：\n",
      "方案一：直接数据库扣减。通过sql判断剩余库存是否大于等于待扣库存，满足则扣减库存。该方案利用乐观锁原理即update的排他性确保事务性，避免超卖。\n",
      "伪代码sql：\n",
      "sql：update store set store = store - #{deductStore } where (store-#{deductStore }) >= 0\n",
      "该方案的优点是：\n",
      "实库实扣，不会出现超卖；\n",
      "数据库乐观锁保证并发扣减一致性；\n",
      "数据库事务保证批量扣减正常回滚。\n",
      "该方案的缺点是：\n",
      "行级锁的原因存在性能瓶颈，高并发会出现请求堵塞超时问题；\n",
      "直连数据库，每次扣库存都是写操作，接口性能较低。\n",
      "方案二：利用分布式锁，强制串行化扣减同一商品库存。\n",
      "该方案的优点是：\n",
      "减轻数据库压力，同时还能确保不会超卖。\n",
      "该方案的缺点是：\n",
      "每次只能有一个请求抢占锁，不能应对高并发场景。\n",
      "对于常规渠道，库存扣减是后置逻辑，流量不高，我们采用的是直接数据库扣减，且针对弊端做了一些措施：\n",
      "前置校验严格，同时针对刷单场景会有严格限流，保证最终扣减库存的流量可控；\n",
      "库存系统读写分离，减少数据库的压力。\n",
      "4.2.2 高并发库存扣减方案\n",
      "针对高并发库存扣减，比如秒杀，一般采用的是缓存扣减库存的方式（redis+lua脚本实现单线程库存更新）作为前置流程，代替数据库直接更新。\n",
      "在redis中扣减库存虽然性能高，可以大大减轻数据库压力，但需要保证缓存数据能完整、正确的入库，以保证最终一致性。\n",
      "针对缓存数据更新至数据库，目前主流方案有两种：\n",
      "方案一：Redis数据直接异步更新至数据库。\n",
      "优点：简单、没有复杂的流程。\n",
      "缺陷：redis宕机或者故障，可能会造成缓存内库存数据的丢失。\n",
      "方案二：Redis扣减库存时，同步在业务数据中insert库存信息。\n",
      "这里大家可能会有两个疑问：\n",
      "有数据库的插入操作，性能怎么保证？\n",
      "有数据库的操作，又有redis的更新，事务性怎么保证？\n",
      "异步更新业务库存在延迟，库存逆向回退如何保证？\n",
      "对于疑问1：由于数据库insert比update性能优，insert是在表的末尾直接插入，没有寻址的过程，可以保证性能比较快。\n",
      "对于疑问2：方案2不同于缓存直接扣减，而是把缓存扣减放在数据库insert的事务内，通过数据库的事务保证整体的事务。\n",
      "insert的表被称为库存任务表，其中保存了库存扣减的信息，库存任务表结构可以设计的非常简单，主键 + 库存信息（json字符串）就可以了。\n",
      "后续通过异步任务，从库存任务表表中查询出库存更新信息，将其同步到具体的库存表中，实现最终一致性，这种方案可以避免数据的丢失。\n",
      "对于疑问3：库存回退是根据业务库中扣减记录进行回退的，由于异步更新业务库必定存在延迟（延迟极低，数秒以内），所以极端场景会存在走退款逆向流程时业务库的库存扣减记录还未更新。\n",
      "针对这种情况库存回退设置延迟重试机制，如果再极端点达到重试阈值依旧没有扣减记录，则返回回退成功，不做阻断。\n",
      "目前我们针对秒杀库存扣减，采用的是方案2。但毕竟涉及数据库的更新，为了避免风险，在前置流量校验上做了限制，保证流量的可控：\n",
      "4.2.3 库存热点问题\n",
      "什么是热点问题？热点问题就是因热点商品导致的redis、数据库等性能瓶颈。在库存系统中，热点问题主要存在：\n",
      "采用直接扣减库存数据库的方式，存在数据库的行锁问题。常规渠道的库存扣减，我们采用的就是的就是这种方式。\n",
      "采用缓存扣减库存的方式，大流量的情况下，热点商品扣减库存操作会打向redis单片，造成单片性能抖动，从而出现redis性能瓶颈。\n",
      "对于第1种热点问题，在vivo商城常见的场景是：新发的爆品手机，在准点售卖时会有抢购效应，容易造成库存数据库单行的瓶颈问题。针对这种热点问题，我们的解决方案是“分而治之”：\n",
      "对于潜在的热点爆款手机，我们会将库存平均分为多行（比如M行），扣减库存时，随机在M行中选取一行库存数据进行扣减。该方案突破了数据库单行锁的瓶颈限制，解决了爆款商品的热点问题。\n",
      "对于第2种redis单片热点问题，解决方案也是分而治之。将数据库中的库存数据同步到redis时，把key值打散，分散在多个redis单片中。注：我们目前线上的流量峰值还达不到会造成redis单片瓶颈的问题，为避免过度设计，只做了前置限流，没有进行key值的打散。\n",
      "4.3 库存同步方案\n",
      "库存系统存在一些库存同步场景：\n",
      "对接仓储系统，完成实物库存同步。\n",
      "兼容历史架构，商品系统库存的可售库存同步等。\n",
      "（1）实物库存同步：\n",
      "实物库存同步，对接的是仓储系统，通过接口来获取商品的实际库存。实物库存同步分成两种：定时全量同步、指定单品更新。\n",
      "定时全量同步：每天定时全量拉取库存调度平台的实物库存进行全量同步。\n",
      "制定单品：运营也可以手动触发单个sku的商品即时同步实物库存。\n",
      "（2）商品系统库存同步：\n",
      "由于库存系统多个场景涉及库存变更，运营手动编辑、用户下单退款导致库存扣减回退，还有商品系统内编辑库存数据也会导致库存变更（以前库存系统未独立，库存数据维护在商品系统）。同时很多业务在查询库存时，参考的依旧是商品系统的库存数据。\n",
      "这里有一个问题：库存系统已经独立出来，为什么还会依赖商品系统的库存数据？\n",
      "这有两点原因：\n",
      "商城多个业务的后台有商品筛选的需要，商品筛选会有库存数量的筛选项。商品数量很多，筛选是分页的，如果将库存数据全部替换成库存系统的，那么存在跨系统分页问题，分页筛选会存在问题；\n",
      "历史遗留问题，很多业务方依赖的是商品系统的库存数据（包括依赖商品库存离线表的业务方），全部切换到库存系统，成本和影响范围大。\n",
      "因此，我们需要保证商品系统和库存系统两边库存数据的一致。\n",
      "库存变更场景多，为了降低业务复杂度、采用简单的方式实现库存同步，我们利用了团队自研的CDC系统（鲁班平台），整体流程如下：\n",
      "库存数据库发生变更后，鲁班平台通过binlog采集获取库存变更日志，再通过自定义规则筛选，然后发送mq变更消息，最后商品系统消费消息完成库存同步变更。\n",
      "五、总结及展望\n",
      "最后对库存系统进行一个总结：\n",
      "库存系统完成服务拆分，在单一的可售库存扣减功能基础上拓展了很多功能，赋能业务的发展。\n",
      "完成库存架构分层，抽象多个库存类型，更灵活地满足当前业务需求。\n",
      "针对库存扣减防重、高并发场景下的库存扣减、库存热点问题、库存同步等技术问题，我们根据业务实际情况设计合理方案。\n",
      "展望\n",
      "目前vivo商城库存系统平台化能力不足，部分能力分散在其他系统中，未来我们希望能为vivo新零售提供一体化的库存管理方案。\n",
      "\n",
      "\n",
      "\n",
      "\n",
      "\n",
      "\n",
      "\n",
      "sql：update store set store = store - #{deductStore } where (store-#{deductStore }) >= 0\n",
      "\n",
      "\n",
      "\n",
      "\n",
      "\n",
      "分享 vivo 互联网技术干货与沙龙活动，推荐最新行业动态与热门会议。\n",
      "\n",
      "\n",
      "\n",
      "\n",
      "\n",
      "posted @ 2023-03-10 15:16  vivo互联网技术  阅读(14)  评论(0)  编辑  收藏  举报\n",
      "\n",
      "刷新评论刷新页面返回顶部\n",
      "var commentManager = new blogCommentManager(); commentManager.renderComments(0); fixPostBody(); window.footnoteTipManager.generateFootnoteTips(); window.tocManager.displayDisableTocTips = false; window.tocManager.generateToc(); setTimeout(function() { countViews(cb_blogId, cb_entryId); }, 50); deliverT2(); deliverC1C2(); loadNewsAndKb(); LoadPostCategoriesTags(cb_blogId, cb_entryId); LoadPostInfoBlock(cb_blogId, cb_entryId, cb_blogApp, cb_blogUserGuid); GetPrevNextPost(cb_entryId, cb_blogId, cb_entryCreatedDate, cb_postType); loadOptUnderPost(); GetHistoryToday(cb_blogId, cb_blogApp, cb_entryCreatedDate);\n",
      "\n",
      "刷新评论刷新页面返回顶部\n",
      "\n",
      "\n",
      "\n",
      "\n",
      "\n",
      "\n",
      "\n",
      "\n",
      "\n",
      "公告\n",
      "loadBlogNews();\n",
      "loadBlogDefaultCalendar();\n",
      "loadBlogSideColumn();\n",
      "公告\n",
      "loadBlogNews();\n",
      "loadBlogDefaultCalendar();\n",
      "loadBlogSideColumn();\n",
      "公告\n",
      "loadBlogNews();\n",
      "\n",
      "\n",
      "\n",
      "\n",
      "loadBlogSideColumn();\n",
      "\n",
      "\n",
      "\n",
      "Copyright © 2023 vivo互联网技术\n",
      "Powered by .NET 7.0 on Kubernetes\n"
     ]
    }
   ],
   "source": [
    "from requests_html import HTMLSession\n",
    "session = HTMLSession()\n",
    "r = session.get('https://www.cnblogs.com/vivotech/p/17202501.html')\n",
    "sel = 'div'\n",
    "news = r.html.find(sel)\n",
    "for new in news:\n",
    "    print(new.text)"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 19,
   "id": "6494e2ba",
   "metadata": {},
   "outputs": [],
   "source": [
    "# 翻页"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 24,
   "id": "6103e82d",
   "metadata": {},
   "outputs": [
    {
     "name": "stdout",
     "output_type": "stream",
     "text": [
      "https://www.cnblogs.com/#p=0\n",
      "https://www.cnblogs.com/#p=1\n",
      "https://www.cnblogs.com/#p=2\n",
      "https://www.cnblogs.com/#p=3\n",
      "https://www.cnblogs.com/#p=4\n",
      "https://www.cnblogs.com/#p=5\n",
      "https://www.cnblogs.com/#p=6\n",
      "https://www.cnblogs.com/#p=7\n",
      "https://www.cnblogs.com/#p=8\n",
      "https://www.cnblogs.com/#p=9\n",
      "https://www.cnblogs.com/#p=10\n",
      "https://www.cnblogs.com/#p=11\n",
      "https://www.cnblogs.com/#p=12\n",
      "https://www.cnblogs.com/#p=13\n",
      "https://www.cnblogs.com/#p=14\n",
      "https://www.cnblogs.com/#p=15\n",
      "https://www.cnblogs.com/#p=16\n",
      "https://www.cnblogs.com/#p=17\n",
      "https://www.cnblogs.com/#p=18\n",
      "https://www.cnblogs.com/#p=19\n",
      "https://www.cnblogs.com/#p=20\n",
      "https://www.cnblogs.com/#p=21\n",
      "https://www.cnblogs.com/#p=22\n",
      "https://www.cnblogs.com/#p=23\n",
      "https://www.cnblogs.com/#p=24\n",
      "https://www.cnblogs.com/#p=25\n",
      "https://www.cnblogs.com/#p=26\n",
      "https://www.cnblogs.com/#p=27\n",
      "https://www.cnblogs.com/#p=28\n",
      "https://www.cnblogs.com/#p=29\n",
      "https://www.cnblogs.com/#p=30\n",
      "https://www.cnblogs.com/#p=31\n",
      "https://www.cnblogs.com/#p=32\n",
      "https://www.cnblogs.com/#p=33\n",
      "https://www.cnblogs.com/#p=34\n",
      "https://www.cnblogs.com/#p=35\n",
      "https://www.cnblogs.com/#p=36\n",
      "https://www.cnblogs.com/#p=37\n",
      "https://www.cnblogs.com/#p=38\n",
      "https://www.cnblogs.com/#p=39\n",
      "https://www.cnblogs.com/#p=40\n",
      "https://www.cnblogs.com/#p=41\n",
      "https://www.cnblogs.com/#p=42\n",
      "https://www.cnblogs.com/#p=43\n",
      "https://www.cnblogs.com/#p=44\n",
      "https://www.cnblogs.com/#p=45\n",
      "https://www.cnblogs.com/#p=46\n",
      "https://www.cnblogs.com/#p=47\n",
      "https://www.cnblogs.com/#p=48\n",
      "https://www.cnblogs.com/#p=49\n",
      "https://www.cnblogs.com/#p=50\n",
      "https://www.cnblogs.com/#p=51\n",
      "https://www.cnblogs.com/#p=52\n",
      "https://www.cnblogs.com/#p=53\n",
      "https://www.cnblogs.com/#p=54\n",
      "https://www.cnblogs.com/#p=55\n",
      "https://www.cnblogs.com/#p=56\n",
      "https://www.cnblogs.com/#p=57\n",
      "https://www.cnblogs.com/#p=58\n",
      "https://www.cnblogs.com/#p=59\n",
      "https://www.cnblogs.com/#p=60\n",
      "https://www.cnblogs.com/#p=61\n",
      "https://www.cnblogs.com/#p=62\n",
      "https://www.cnblogs.com/#p=63\n",
      "https://www.cnblogs.com/#p=64\n",
      "https://www.cnblogs.com/#p=65\n",
      "https://www.cnblogs.com/#p=66\n",
      "https://www.cnblogs.com/#p=67\n",
      "https://www.cnblogs.com/#p=68\n",
      "https://www.cnblogs.com/#p=69\n",
      "https://www.cnblogs.com/#p=70\n",
      "https://www.cnblogs.com/#p=71\n",
      "https://www.cnblogs.com/#p=72\n",
      "https://www.cnblogs.com/#p=73\n",
      "https://www.cnblogs.com/#p=74\n",
      "https://www.cnblogs.com/#p=75\n",
      "https://www.cnblogs.com/#p=76\n",
      "https://www.cnblogs.com/#p=77\n",
      "https://www.cnblogs.com/#p=78\n",
      "https://www.cnblogs.com/#p=79\n",
      "https://www.cnblogs.com/#p=80\n",
      "https://www.cnblogs.com/#p=81\n",
      "https://www.cnblogs.com/#p=82\n",
      "https://www.cnblogs.com/#p=83\n",
      "https://www.cnblogs.com/#p=84\n",
      "https://www.cnblogs.com/#p=85\n",
      "https://www.cnblogs.com/#p=86\n",
      "https://www.cnblogs.com/#p=87\n",
      "https://www.cnblogs.com/#p=88\n",
      "https://www.cnblogs.com/#p=89\n",
      "https://www.cnblogs.com/#p=90\n",
      "https://www.cnblogs.com/#p=91\n",
      "https://www.cnblogs.com/#p=92\n",
      "https://www.cnblogs.com/#p=93\n",
      "https://www.cnblogs.com/#p=94\n",
      "https://www.cnblogs.com/#p=95\n",
      "https://www.cnblogs.com/#p=96\n",
      "https://www.cnblogs.com/#p=97\n",
      "https://www.cnblogs.com/#p=98\n",
      "https://www.cnblogs.com/#p=99\n"
     ]
    }
   ],
   "source": [
    "url = []\n",
    "for i in range(100):\n",
    "    print('https://www.cnblogs.com/#p='+str(i))"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": 26,
   "id": "dd98d0f1",
   "metadata": {},
   "outputs": [],
   "source": [
    "for i in url:\n",
    "    r = session.get(i)\n",
    "    sel = 'div.content'\n",
    "    news = r.html.find(sel)\n",
    "    print('————博客园新闻_第{page}页————').format(page = i.split('=')[1])\n",
    "    for new in news:\n",
    "        print()\n",
    "        print(new.text)\n",
    "        print(neiw.absolute_links)"
   ]
  },
  {
   "cell_type": "code",
   "execution_count": null,
   "id": "3f50fdb5",
   "metadata": {},
   "outputs": [],
   "source": []
  }
 ],
 "metadata": {
  "kernelspec": {
   "display_name": "Python 3",
   "language": "python",
   "name": "python3"
  },
  "language_info": {
   "codemirror_mode": {
    "name": "ipython",
    "version": 3
   },
   "file_extension": ".py",
   "mimetype": "text/x-python",
   "name": "python",
   "nbconvert_exporter": "python",
   "pygments_lexer": "ipython3",
   "version": "3.8.8"
  }
 },
 "nbformat": 4,
 "nbformat_minor": 5
}
